?

Log in

No account? Create an account
AI, Bitcoin и зима - Поклонник деепричастий [entries|archive|friends|userinfo]
Anatoly Vorobey

[ website | Website ]
[ userinfo | livejournal userinfo ]
[ archive | journal archive ]

Links
[Links:| English-language weblog ]

AI, Bitcoin и зима [дек. 19, 2017|01:39 pm]
Anatoly Vorobey
[Tags|]

(может быть интересно израильтянам)

Сегодня в 7 вечера, очередная встреча любителей рациональности в Тель-Авиве. Тема - три разных темы, три мини-лекции о недавних событиях. Одна об алгоритме DeepMind AlphaZero, который учится играть в игры с нуля и победил лучшие известные программы в шахматы и го. Вторая о Bitcoin и его метеорном взлете в последние месяцы. Третья - в преддверии самой длинной ночи года - о вечном и преходящем, о смерти и жизни, о том, чего мы боимся и на что надеемся.

Адрес - тель-авивский офис Гугла, ул. Игаль Алон 98, 29-й этаж, сбор в 7 вечера, начало лекций в 7:30.

Лекции будут либо на английском (если часть присутствующих не знают иврит), либо на иврите.
СсылкаОтветить

Comments:
[User Picture]From: freedom_of_sea
2017-12-19 12:07 pm
я слышал мнение что с шахматной спецциализированной программой намухлевали
(Ответить) (Thread)
[User Picture]From: urod
2017-12-19 12:32 pm
У AlphaZero было 4 TPU, как я понимаю, 180 терафлоп. У Stockfish - жалкие 32 ядра. На этих ядрах они зачем-то запустили 64 треда. Ещё стокфишу ограничили хэш 1 гигабайтом, а время на размышление 1 минутой на ход (вообще-то стокфиш умеет определять, в каких позициях стоит думать подольше - но его лишили этого права.) Афигеть победа. Я тоже могу победить Шумахера в автогонках, если мне разрешить ездить на гоночной машине, а ему на запорожце со спущенными шинами.

Edited at 2017-12-19 12:39 (UTC)
(Ответить) (Thread)
[User Picture]From: ivanoff272
2017-12-19 01:11 pm
да, примерно так -- АЗ выдрал СФ "с форой 2-х ладей" как сидорову-кОзу
(Ответить) (Parent) (Thread)
From: (Anonymous)
2017-12-19 01:34 pm
> На этих ядрах они зачем-то запустили 64 треда

есть такая штука hyperthreading патамушта
(Ответить) (Parent) (Thread)
[User Picture]From: akor168
2017-12-19 02:10 pm
4 TPU это много-много терафлоп исключительно на специализированных задачах, связанных с нейронными сетями(умножение матриц с половинной точностью). Если предоставить эту же технику обычным шахматным движкам, они никак не смогут выжать эти терафлопы во что-то полезное для них. А вот, кстати, портировать нейронную сеть на обычный компьютер вполне можно с небольшим ухудшением качества, но так как DeepMind вряд ли собирается заниматься распространением своего движка то понятно они этого не делали и вряд ли будут делать.

А вот с хешом для обычного движка да, это косяк, и сильно влияет на игру в худшую сторону.
(Ответить) (Parent) (Thread)
[User Picture]From: urod
2017-12-20 12:54 am
4 TPU это много-много терафлоп исключительно на специализированных задачах, связанных с нейронными сетями(умножение матриц с половинной точностью). Если предоставить эту же технику обычным шахматным движкам, они никак не смогут выжать эти терафлопы во что-то полезное для них.

Вот именно. Для своего алгоритма они обеспечили специальное железо, предназначенное для этого и подобных алгоритмов. Второй алгоритм бежал на самом обычном железе. Если бы они хотели сравнивать осмысленно, надо было сделать специальное железо для старфиш (то, которое оценивает позиции).

А вот, кстати, портировать нейронную сеть на обычный компьютер вполне можно с небольшим ухудшением качества

С небольшим ухудшением качества? То есть их нейросеть бежала бы на обычном 32-ядерном процессоре почти так же быстро? Серьёзно? :)
(Ответить) (Parent) (Thread)
[User Picture]From: p2004r
2017-12-20 06:34 am
Конкретно их сеть нет, но масса сетей (LSTM например) не очень то быстрее идут на GPU.

Ну а конкретно эта сеть влезет по ресурсам на обычный комп только в режиме исполнения на CPU и не только 64 потока способна линейно отмасштабировать, а "сколько дашь".
(Ответить) (Parent) (Thread)
From: vsvor
2017-12-20 07:12 am
В статье вроде бы было написано про 64 треда, не не про 32 ядра. SF просто не умеет использовать больше чем 64 потока. Как и тензорные процессоры/видеокарты. Да, CPU не предназначены специально для шахматных алгоритмов, но и TPU разрабатывались для задач машинного обучения в широком смысле, а не для отдельно взятого проекта. Если же сравнивать энергопотребление и сложность чипов (по числу транзисторов на кристалле), думаю, если и будет разница, то максимум в несколько раз.
(Ответить) (Parent) (Thread)
From: (Anonymous)
2017-12-20 05:26 pm
Я тоже не удивлен что AZ стокфиш обыграл.
Я удивлен тем КАК он его обыграл. Это абсолютнейших разнос, с игрой по первой линии в дебюте без дебютных книг, с нечеловеческой тактической точностью характерной для движков, помноженной на человеческое стратегическое давление, в котором движки раньше в общем не преуспевали.

С моей точки зрения слабого мса альфа зеро - это совершенно новый недосягаемый уровень.

Если интересно можете посмотреть как Шипов со Свидлером результаты комментируют: http://crestbook.com/node/9818
Они в общем тоже не вчера родились и понимают разницу в железе, но результатом также поразены.
(Ответить) (Parent) (Thread)
[User Picture]From: urod
2017-12-21 04:46 am
Шипов тоже говорит и про слабое железо, и про (я об этом не знал) лишение дебютной справочной, и про старую версию стокфиша (тоже не знал), и про ограниченное время. А главное - он иногда удивляется грубейшим ошибкам, которые делает стокфиш по, надо думать, сочетанию вышеописанных причин. Да, ему нравится стиль AZ, но вот насколько AZ действительно сильнее стокфиша, если сильнее - загадка.
(Ответить) (Parent) (Thread)
From: (Anonymous)
2017-12-22 10:30 am
Да, согласен, насколько AZ сильнее - неясно. Но создается впечатление что он дьявольски хорош в тех моментах где стандартные движки просто хороши и которые считались чисто человеческими.
(Ответить) (Parent) (Thread)
[User Picture]From: igorla
2017-12-19 12:59 pm
Необходима запись чтобы внутрь пустили?
(Ответить) (Thread)
[User Picture]From: avva
2017-12-19 02:24 pm
Нет, просто скажите внизу в лобби, что вам в Гугл на 29-й этаж. Там есть несколько разных лифтовых шахт, вам нужны те, что по правую руку от стойки информации в лобби. Лифты работают по системе "набрать номер этажа и пульт покажет, в какой лифт заходить".
(Ответить) (Parent) (Thread)
[User Picture]From: igorla
2017-12-19 09:34 pm
Да, спасибо за описание, и, конечно, за лекции. Было интересно и познавательно, особенно последние две.
Заодно и вставлю свои 2 копейки по поводу трех D.
- Альцгеймер - это ужасная болезнь, однако в первую очередь для близких. По поводу самого больного у меня до сих пор нет четкого мнения, хотя несколько лет с ними работал. Гораздо хуже медленное угасание когнитивных функций вкупе со склерозом. Тут все успеваешь как следует "огрокать" :(
- Меня тоже напрягает больше ментальный decay, но есть впечатление, что существует корреляция намного более четкая между занятием умственным трудом (как можно дольше и невзирая на возраст) и поздней деменцией или отсутствием таковой. В отличии от более слабой связи между ЗОЖ и раком, инсультом или другой гадостью.
Ну и чтобы не заканчивать на совсем грустной ноте - иконки над туалетами улыбнули :)
(Ответить) (Parent) (Thread)
[User Picture]From: avva
2017-12-20 12:15 am

:) здорово, что пришли!
(Ответить) (Parent) (Thread)
[User Picture]From: bortans
2017-12-19 01:05 pm
А почему бы вам не делать прямую видео-трансляцию этих встреч? Многим было бы интересно. У Гугла, насколько я слышал, даже есть какой-то сервис где можно выкладывать live video :)
(Ответить) (Thread)
[User Picture]From: michk
2017-12-19 02:02 pm
Это прекрасно :-) А третья лекция так и заявлена?
(Ответить) (Thread)
[User Picture]From: avva
2017-12-19 04:03 pm
Это моя попытка описать то, что там будет.
(Ответить) (Parent) (Thread)
[User Picture]From: shadow_ru
2017-12-19 02:11 pm
Зима близко?
(Ответить) (Thread)
[User Picture]From: avva
2017-12-19 02:25 pm
В Израиле? Не очень. Но самая длинная ночь года уже почти тут.
(Ответить) (Parent) (Thread)
[User Picture]From: shadow_ru
2017-12-20 07:29 am
Мне просто серьёзность третьей лекции и её название напомнило "Игру престолов": winter is coming.)
(Ответить) (Parent) (Thread)
From: (Anonymous)
2017-12-19 03:09 pm
Кстати вот, об искусственном интеллекте. Я только что убедился в том, что в этой области происходит не только прогресс, а иногда даже вовсе наоборот.

Гугловский распознаватель речи уже долгое время прекрасно умеет понимать несколько языков без необходимости переключаться между ними. Скажу ему по-английски — понимает, по-русски — понимает, на иврите — тоже, зараза, понимает! Причем умеет отличить, когда я говорю "Гарри Поттер", "Harry Potter" и даже, сцуко, "הרי פוטר". ИИ рулит! Я этим вовсю пользовался на телефоне, потому что клавиатура буэ.

И что? А приходит обновление, и место гугл апп занимает гугл ассистант. Который способности распознавать разные языки лишен напрочь. English, motherfucker! Отключить его пока можно, но функции гуглоаппа восстанавливаются при этом не все.

Но естественный интеллект победить, сцуко, трудно. Я нашел выход: если мне надо искать что-то по-русски, я ему говорю launch voice search, и он запускает старое приложение, которое понимает все мои языки! Подозреваю, впрочем, что эта радость только до очередного обновления.

Так что через некоторое время программы, которые сейчас бьют чемпионов, могут начать стремительно проигрывать кандидатам в мастера. Если Гуглу их доверить, конечно.

;)
(Ответить) (Thread)
[User Picture]From: vvagr
2017-12-19 09:10 pm
Я, было, испугался - тоже увидел подобное вчера, не мог заставить распознать русскую диктовку. Но сейчас проверил - всё работает как раньше.
(Ответить) (Parent) (Thread)
[User Picture]From: ign
2017-12-20 01:08 am
А в январе не планируется таких встреч? Я бы зашел)
(Ответить) (Thread)
[User Picture]From: avva
2017-12-20 09:44 am
Должна быть 16-го, тема пока не заявлена.
(Ответить) (Parent) (Thread)
[User Picture]From: ign
2017-12-20 02:16 pm
Спасибо! Если не окажусь как раз в этот день в Эйлате, то обязательно зайду.
(Ответить) (Parent) (Thread)
[User Picture]From: geish_a
2017-12-20 10:58 pm
А летом я ни разу не видела объявлений, а то я бы сходила. А как часто лекции проходят по-английски?
(Ответить) (Parent) (Thread)