?

Log in

No account? Create an account
По делам сюда приплыл, а не за этим [entries|archive|friends|userinfo]
Anatoly Vorobey

[ website | Website ]
[ userinfo | livejournal userinfo ]
[ archive | journal archive ]

Links
[Links:| English-language weblog ]

AI, Bitcoin и зима [дек. 19, 2017|01:39 pm]
Anatoly Vorobey
[Tags|]

(может быть интересно израильтянам)

Сегодня в 7 вечера, очередная встреча любителей рациональности в Тель-Авиве. Тема - три разных темы, три мини-лекции о недавних событиях. Одна об алгоритме DeepMind AlphaZero, который учится играть в игры с нуля и победил лучшие известные программы в шахматы и го. Вторая о Bitcoin и его метеорном взлете в последние месяцы. Третья - в преддверии самой длинной ночи года - о вечном и преходящем, о смерти и жизни, о том, чего мы боимся и на что надеемся.

Адрес - тель-авивский офис Гугла, ул. Игаль Алон 98, 29-й этаж, сбор в 7 вечера, начало лекций в 7:30.

Лекции будут либо на английском (если часть присутствующих не знают иврит), либо на иврите.
СсылкаОтветить

Comments:
[User Picture]From: urod
2017-12-19 12:32 pm
У AlphaZero было 4 TPU, как я понимаю, 180 терафлоп. У Stockfish - жалкие 32 ядра. На этих ядрах они зачем-то запустили 64 треда. Ещё стокфишу ограничили хэш 1 гигабайтом, а время на размышление 1 минутой на ход (вообще-то стокфиш умеет определять, в каких позициях стоит думать подольше - но его лишили этого права.) Афигеть победа. Я тоже могу победить Шумахера в автогонках, если мне разрешить ездить на гоночной машине, а ему на запорожце со спущенными шинами.

Edited at 2017-12-19 12:39 (UTC)
(Ответить) (Thread)
[User Picture]From: ivanoff272
2017-12-19 01:11 pm
да, примерно так -- АЗ выдрал СФ "с форой 2-х ладей" как сидорову-кОзу
(Ответить) (Parent) (Thread)
From: (Anonymous)
2017-12-19 01:34 pm
> На этих ядрах они зачем-то запустили 64 треда

есть такая штука hyperthreading патамушта
(Ответить) (Parent) (Thread)
[User Picture]From: akor168
2017-12-19 02:10 pm
4 TPU это много-много терафлоп исключительно на специализированных задачах, связанных с нейронными сетями(умножение матриц с половинной точностью). Если предоставить эту же технику обычным шахматным движкам, они никак не смогут выжать эти терафлопы во что-то полезное для них. А вот, кстати, портировать нейронную сеть на обычный компьютер вполне можно с небольшим ухудшением качества, но так как DeepMind вряд ли собирается заниматься распространением своего движка то понятно они этого не делали и вряд ли будут делать.

А вот с хешом для обычного движка да, это косяк, и сильно влияет на игру в худшую сторону.
(Ответить) (Parent) (Thread)
[User Picture]From: urod
2017-12-20 12:54 am
4 TPU это много-много терафлоп исключительно на специализированных задачах, связанных с нейронными сетями(умножение матриц с половинной точностью). Если предоставить эту же технику обычным шахматным движкам, они никак не смогут выжать эти терафлопы во что-то полезное для них.

Вот именно. Для своего алгоритма они обеспечили специальное железо, предназначенное для этого и подобных алгоритмов. Второй алгоритм бежал на самом обычном железе. Если бы они хотели сравнивать осмысленно, надо было сделать специальное железо для старфиш (то, которое оценивает позиции).

А вот, кстати, портировать нейронную сеть на обычный компьютер вполне можно с небольшим ухудшением качества

С небольшим ухудшением качества? То есть их нейросеть бежала бы на обычном 32-ядерном процессоре почти так же быстро? Серьёзно? :)
(Ответить) (Parent) (Thread)
[User Picture]From: p2004r
2017-12-20 06:34 am
Конкретно их сеть нет, но масса сетей (LSTM например) не очень то быстрее идут на GPU.

Ну а конкретно эта сеть влезет по ресурсам на обычный комп только в режиме исполнения на CPU и не только 64 потока способна линейно отмасштабировать, а "сколько дашь".
(Ответить) (Parent) (Thread)
From: vsvor
2017-12-20 07:12 am
В статье вроде бы было написано про 64 треда, не не про 32 ядра. SF просто не умеет использовать больше чем 64 потока. Как и тензорные процессоры/видеокарты. Да, CPU не предназначены специально для шахматных алгоритмов, но и TPU разрабатывались для задач машинного обучения в широком смысле, а не для отдельно взятого проекта. Если же сравнивать энергопотребление и сложность чипов (по числу транзисторов на кристалле), думаю, если и будет разница, то максимум в несколько раз.
(Ответить) (Parent) (Thread)
From: (Anonymous)
2017-12-20 05:26 pm
Я тоже не удивлен что AZ стокфиш обыграл.
Я удивлен тем КАК он его обыграл. Это абсолютнейших разнос, с игрой по первой линии в дебюте без дебютных книг, с нечеловеческой тактической точностью характерной для движков, помноженной на человеческое стратегическое давление, в котором движки раньше в общем не преуспевали.

С моей точки зрения слабого мса альфа зеро - это совершенно новый недосягаемый уровень.

Если интересно можете посмотреть как Шипов со Свидлером результаты комментируют: http://crestbook.com/node/9818
Они в общем тоже не вчера родились и понимают разницу в железе, но результатом также поразены.
(Ответить) (Parent) (Thread)
[User Picture]From: urod
2017-12-21 04:46 am
Шипов тоже говорит и про слабое железо, и про (я об этом не знал) лишение дебютной справочной, и про старую версию стокфиша (тоже не знал), и про ограниченное время. А главное - он иногда удивляется грубейшим ошибкам, которые делает стокфиш по, надо думать, сочетанию вышеописанных причин. Да, ему нравится стиль AZ, но вот насколько AZ действительно сильнее стокфиша, если сильнее - загадка.
(Ответить) (Parent) (Thread)
From: (Anonymous)
2017-12-22 10:30 am
Да, согласен, насколько AZ сильнее - неясно. Но создается впечатление что он дьявольски хорош в тех моментах где стандартные движки просто хороши и которые считались чисто человеческими.
(Ответить) (Parent) (Thread)