Category: технологии

Category was added automatically. Read all entries about "технологии".

moose, transparent

куда вы удалились

Синим цветом - продолжение, написанное нейронной сетью, натренированной на корпусе русской литературы. Особенно удачный пример, по-моему:



Можете сами попробовать на чем угодно. seminarist увлекся вот.
moose, transparent

rms

Сегодня я узнал, что шакалы пришли за Ричардом Столлманом, и он уволился из FSF и MIT после череды откровенно лживых публикаций, выставляющих его защитником Джеффри Эпштейна. Все началось с того, что на рассылке MIT он попытался защитить честь покойного друга, Марвина Мински. Сегодня мне грустно.

Я во многом не согласен с мнениями Столлмана (скорее чаще несогласен, чем согласен) и считал его неоднозначной и часто вредной (в последние годы) фигурой. Не говоря уж о том, что не пользуюсь Emacs и уже несколько лет gcc. Но это очередное проявление культуры возмущения мне очень неприятно, и ни один из шакалов в Твиттере и технической прессе, поднявших или поддерживающих эту моральную панику, не стоит мизинца Столлмана.

Если когда-нибудь случится, скажем, что моего покойного друга будут облыжно называть насильником, хватит ли у меня смелости выступить в его защиту против толпы борцов за "социальную справедливость"?
moose, transparent

о черных ящиках



Эта фотография сделана фундус-камерой (специальной камерой, фотографирующей глазное дно). Она из прошлогодней статьи, в которой исследователи из Гугла показали, что методами глубокого обучения можно предсказывать некоторые факторы риска сердечных заболеваний на основании таких вот снимков.

Но в процессе работы над данными они также попробовали предсказать другую информацию о больных, например, возраст и пол. И оказалось, например, что их нейронная сеть может с точностью 97% предсказать, это глазное яблоко мужчины или женщины, при том, что врач-офтальмолог не может этого сделать вообще (точность 50-50).

Это очень яркий пример того, как современные методы глубокого обучения дают нам добиться потрясающих результатов, но часто не дают нам возможности понять и объяснить их. На картинке выделены зеленым цветом те участки фотографии, которые нейронная сеть особенно активно использовала для установления пола - это мы можем сделать. Но что именно в этих участках указывает на мужчин или на женщин, исследователям установить не удалось, несмотря на довольно интенсивную работу в сотрудничестве с медиками-специалистами в данной области.

Так это и осталось на данный момент черным ящиком. Дай ему фотографию - он тебе скажет пол и возраст с большой точностью, а как - никто не знает.
moose, transparent

о трансформере

the transformer … “explained”? (англ.)

Хорошее объяснение для неспециалистов того, как устроена - очень в общих чертах - архитектура нейронной сети Transformer, которая лежит в основе предсказателя текста GTP-2 и других впечатляющих результатов последнего времени. Особенно интересно сравнение с конволюционными и рекуррентными сетями.
moose, transparent

горький урок

Ричард Саттон, известный исследователь в области искусственного интеллекта, опубликовал очень краткое эссе "Горький урок" - The Bitter Lesson, заслуживающее внимательного прочтения.

Саттон пишет о том, что на протяжении всей истории ИИ люди снова и снова пытались строить системы, стремящиеся моделировать, хотя бы частично, как думает человек - и снова и снова эти системы проигрывали тем, которые просто брутально стремились делать "тупой перебор" - естественно, не совсем тупой, но и не сложно-человеческий. Самый яркий пример этого - шахматные программы, где до победы Deep Blue над Каспаровым в 1996-м году большинство специалистов были уверены, что надо учить компьютер принципам тактики и стратегии, или хотя бы накопленному шахматистами опыту оценки позиции - а в итоге победил подход - бросить на перебор как можно больше ресурсов, и ограничиться эвристиками того, когда останавливать перебор, не пытаясь научить программу думать над шахматами "по-человечески". Но, пишет Саттон, и в последние годы, в эпоху успешного рывка вперед нейронных сетей, попытки совместить эти сети с "человекоподобными" моделями неизменно проигрывают системам, которые стремятся более эффективно перемолоть как можно больше данных на мельнице как можно более интенсивной тренировки сети.

Надо отметить, что эссе Саттона полемизирует с другим мнением, которое иногда высказывается - что не следует ожидать от современных нейронных сетей "человекоподобного" эффективного обучения из-за фундаментальных ограничений этого подхода, и именно что следует совмещать их с моделями более "человеческого" мышления, хоть и не так наивно, как в прошлом. Об этом, например, статья Building Machines That Learn and Think Like People, которая меня очень впечатлила пару лет назад и о которой я несколько раз писал.

У меня нет достаточно опыта и экспертизы, чтобы иметь твердое мнение на эту тему, но мне кажется, что краткое и энергичное послание Саттона, пусть я и вижу способы его критиковать, несет в себе убедительный аргумент, требующий серьезного размышления. Мне не нравится думать, что Саттон может быть прав, но не могу отрицать, что история ИИ скорее на его стороне (об отдельных примерах можно спорить).
moose, transparent

как входят в хайтек

Друзья, вопрос на тему израильского хайтека. Что бы вы посоветовали человеку, который пытается сменить профессию и влиться в стройные ряды программистов? Есть степень по экономике и опыт работы экономистом, и вот окончен на отлично годичный курс Джон-Брайса (джава, джаваскрипт, postgresql, angular, все такое), что с этим можно делать и как пытаться найти какую-то джуниор место? Банально рассылать резюме всюду, куда дотягивается рука? А еще что посоветуете?
moose, transparent

про теранос (англ.)

Some thoughts after reading “Bad Blood: Secrets and Lies in a Silicon Valley Startup”

Эндрю Гельман пишет отзыв на книгу журналиста, который раскрыл аферу компании "Теранос", одни из самых скандальных историй в мире технологий последних лет (если в двух словах: "Теранос" утверждала, что у них есть способ делать весь набор анализов крови лишь на одной капле из укола, и собрала под это дело миллиарды долларов и много престижных имен в свой совет директоров, но это было целиком вранье и обман).

Всю книгу я не прочитаю, зато у Гельмана есть интересные выписки и его мысли на их тему. Я не знал, что у Теранос не только не было работающей новой технологии, но даже *идеи* (неработающей) не было, это был целиком чистый обман:

"So I’d just assumed Theranos was using a new technology entirely, maybe something with gene sequencing or microproteins or some other idea I’d never heard of. No, not at all. What they actually had was an opaque box containing several little assay setups, with a mechanical robot arm to grab and squeeze the pipette to pass around the blood.
[...]You’ve heard about that faked moon landing, right? Well, Theranos really was the fake moon landing. They got billions of dollars for, basically, nothing. So, yeah, the reality was indeed far worse than I’d thought!"

И так далее, еще много хорошего там.
moose, transparent

где прошлогодние чатботы?

Chatbots were the next big thing: what happened?

Два года назад все технологическая пресса и блоги и форумы и все на свете гудели новостями про чатботы. Все перейдут на чатботы, все фирмы будут делать все через чатботы, все соц. сети добавляют API для чатботов, у кого будет лучшая платформа для чатботов, тот победит.

Где все эти чатботы? Куда девался весь хайп?
moose, transparent

jelly no puzzle

Пять лет назад я писал о замечательной игрушке Jelly no Puzzle. Недавно вспомнил о ней и прошел снова, на этот раз в приложении на Андроиде, которое с тех пор появилась.



Windows-версия

Android-версия

Очень рекомендую её. Самое удивительное сочетание очень простых правил игры и бесконечно изобретательных уровней, что я видел за много лет.

Если вы прошли ее целиком, похвастайтесь в комментариях! Это довольно серьезное достижение!
moose, transparent

ibm

Если назвать какую-то большую технологическую компанию, то мне в общих чертах понятно, чем занимаются ее сотрудники.

Например, в Гугле работает 60 тысяч человек, в Эппл - тоже примерно 60 тысяч, в Майкрософте - 100 тысяч. В Оракле работает 130 тысяч человек, что меня лично удивляет, но все-таки у них огромная база данных, лидер на корпоративном рынке, и наверняка нужно гигантское количество агентов по продажам и техподдержки клиентов. В Амазоне 260 тысяч, у них склады-самолеты по всему миру.

Но в IBM работают 370 тысяч человек, и тут у меня дырка в реальности. Я знаю, что делает Гугл, Майкрософт, Эппл, Оракл, Твиттер, Фейсбук, Амазон итд. итд. Но что делает IBM, и что в нем делают 370 тысяч человек? Расскажите мне, это не риторический вопрос.

Я почитал, конечно, Википедию, но ничего особо не понял. Там написано, например, что они продают свои облачные услуги компаниям. Но когда я читаю какие-то технологические новости или дискуссии об облачных провайдера, то обычно речь идет о AWS как о лидере рынка, Google Cloud как конкуренте, других конкурентах - ничего не встречал ни разу об IBM Cloud. Что это значит - что это на самом деле хреновое облако, но гребет кучу денег из-за престижа бренда и связей IBM с большими компаниями? Или отличное облако, но очень дорогое, и гребет кучу денег от больших компаний, которым не жалко? Или что?

Я нашел даже их отчет о доходах за последние три месяца. На первом месте по доходам, 9 миллиардов долларов - "Technology Services and Cloud Platforms". На втором, 5 миллардов - "Cognitive Solutions". Что такое cognitive solutions?

В общем, ничего не понятно, загадочная компания.