Перевод convolution neural net на русский уже устоялся и звучит как "свёрточная нейронная сеть"

спасибо.

вы думаете про это знаете, может народу пригодится

http://www.machinelearning.ru/wiki/index.php?title=Машинное_обучение_(курс_лекций%2C_К.В.Воронцов)

хорошие лекции

Теория обучения машин (machine learning, машинное обучение) находится на стыке прикладной статистики, численных методов оптимизации, дискретного анализа, и за последние 50 лет оформилась в самостоятельную математическую дисциплину. Методы машинного обучения составляют основу ещё более молодой дисциплины — интеллектуального анализа данных (data mining).

В курсе рассматриваются основные задачи обучения по прецедентам: классификация, кластеризация, регрессия, понижение размерности. Изучаются методы их решения, как классические, так и новые, созданные за последние 10–15 лет. Упор делается на глубокое понимание математических основ, взаимосвязей, достоинств и ограничений рассматриваемых методов. Отдельные теоремы приводятся с доказательствами.

Нет, не знаю, я вообще про русскоязычные материалы в этой теме даже не задумывался, вся профессиональная деятельность всю жизнь по-английски. Спасибо, пусть будет ссылка, может пригодится людям.

Мне понравился курс Хинтона: https://www.coursera.org/learn/neural-networks

Он дает хорошую теоретическую базу, без которой в deep learning, как мне кажется, делать нечего. Задания там учат "чувствовать" как работают сети, какие параметры на что влияют и т.д. Возможно курсы Нг и Карпати не хуже, не смотрел.

Я думал об этом, но проблема в том, что наиболее интересные темы последних лет у Хинтона не отражены, потому что курс старше их. Мне особенно хочется понять на хорошем уровне convnets (на уровне ключевых слов или обзора я их и так понимаю).

Спасибо! Вы его проходили вживую или тоже по записям (не отвечайте, если вопрос вдруг слишком личный)?

Из теоретических курсов по ML (не DL) вроде неплохой этот, кстати:
https://www.class-central.com/mooc/7231/edx-machine-learning

> Выглядит более фокусированным на распознавании образов и конволюционных сетях, но другие темы вроде бы тоже обсуждаются подробно.


Так Deep Learning сети же вроде все конволюционныe ? Какие тогда "другие темы" ?

вовсе нет. Deep learning = есть больше одного hidden layers. Конволюционные в основном для распознавания изображений, а другие использования чаще нет.

Я тоже искал курс, с фокусом на понимание основ и некой структурой.

MOOC y Dr. Yaser Abu-Mostafa, Caltech.
http://work.caltech.edu/telecourse.html

очень помогло для меня что фокус на тренировке физической интуиции методов,

видео лекции на ютубе, книжка,был на edx.

только это не deep learning, а основы машинного обучения и области.

Хороший. Советую.

Edited at 2017-12-28 15:43 (UTC)

Да, я знаю этот курс и солидарен с вашим мнением о нем. Присоединяюсь к рекомендации для тех, кто хочет хороший курс machine learning.

А мне бы наоборот -- дельную книжку. Не люблю видеолекции

Попробуйте посмотреть на http://www.deeplearningbook.org/

Что касается MOOC. Я сейчас прохожу так называемое Machine Learning Nonodegree Program на Udacity.

Там последняя часть -- "Deep Learning", я как раз на этом этапе нахожусь. Мне, в принципе, именно эта часть нравится больше, чем другие, мне кажется, что она лучше сделана. Теория там тоже объясняется немного, но не глубоко, конечно. Частные производные и Chain Rule, как минимум упоминаются :)

На Udacity также есть отдельное nanodegree по deep learning -- https://www.udacity.com/course/deep-learning-nanodegree-foundation--nd101 Но я о нем ничего сказать не могу, не знаю.

P.S. Кстати, вот эта страничка -- http://neuralnetworksanddeeplearning.com/chap1.html -- мне очень помогла в самом начале понять, что вообще происходит. Там очень просто все описано, но со всей математикой.

Nando de Freitas, Deep Learning, курс в Оксфорде:

https://www.youtube.com/watch?v=PlhFWT7vAEw&index=16&list=PLE6Wd9FR--EfW8dtjAuPoTuPcqmOV53Fu

Ух ты, этого еще не видел. Спасибо, посмотрю!

Тут надо сделать замечание, что очень важно отслеживать когда был создан\записан тот или иной курс. Потому что многие уже СТАНДАРТНЫЕ вещи могли еще не существовать два-три года назад. Но с другой стороны, многие же вещи как придуманы полвека назад, так и остаются без изменений.

Теоретического понимания там ни у кого нет (намедни на NIPS, их главной конференции, паны дрались https://medium.com/@Synced/lecun-vs-rahimi-has-machine-learning-become-alchemy-21cb1557920d), а реально пользоваться без приличной видеокарты или хотя бы AWS невозможно. Если что, я за Карпати, но это потому что новый курс Нг я вообще не знаю.

Спасибо. В Станфорде, кстати, сейчас курс замутили как раз о том, что ничего не понимаем: https://stats385.github.io/

Можно я отдельно поблагодарю всех предыдущих комментаторов за ссылки.
И вам тоже спасибо за тему. Если будет время можно будет попробовать понять хотя бы базу этого направления ИИ.

Я прохожу сейчас курс Andrew Ng и могу его порекомендовать. Меня вначале отпугнула манера Эндрю разжевывать и упрощать материал, но это можно скомпенсировать скоростью прохождения курса - я сейчас на четвёртой части, после примерно месяца обучения.

Я изучаю курсъ Andrew Ng. Пока что прошел 6 недѣль лекцiй. Впечатленiе довольно смѣшанное - объясненiя неплохи, но иногда слишкомъ поверхностны, а упражненiя по собственно программированiю пока на 2/3 безполезныя. Курсъ сдѣланъ имъ слишкомъ легкимъ, подсказки на каждомъ шагу, такъ, чтобы даже слабые студенты не завалили. Но, какъ первое знакомство съ DL, это неплохо. Надѣюсь, что другiе курсы окажутся болѣе глубокими, а пока что я размышляю, слѣдуетъ ли продолжать выполнять всѣ упражненiя, или же просто прослушать быстро всѣ лекцiи и идти дальше. (Сертификатъ Курсэры мнѣ не нуженъ, я уже въ проектѣ, гдѣ могу начать работать по темѣ DL, если что-то полезное выучу изъ этихъ курсовъ.)

Edited at 2017-12-31 00:19 (UTC)

Спасибо!