Anatoly Vorobey (avva) wrote,
Anatoly Vorobey
avva

Categories:

нейронные сети имени козьмы пруткова

В компании OpenAI создали новую модель (нейронную сеть) для распознавания образов, очень крутую, которая в частности сама научилась сопоставлять визуальную и текстовую информацию. На определенных уровнях нейронной сети есть "нейроны", которые, похоже, абстрагируют понятие - например - "яблоко", неважно, это картинка яблока или слово 'яблоко' на бумаге.

Оказалось, что эту модель можно "атаковать" - т.е. подобрать такие изображения, на которых она заведомо неправильно отвечает, причем так, как мы хотим - особенно элегантным способом.

Очень смешно.



Если на клетке слона прочтешь надпись "буйвол", не верь глазам своим.
Tags: искусственный интеллект
Subscribe

  • про войну

    Я тут читал дискуссию на реддите (англ.) о том, стоило ли Америке и Британии входить в союз с СССР против Гитлера (автор считает, что не стоило,…

  • о грамотном отношении к статистике

    Вот например такое выступление на Твиттере (перевод ниже): "Примерно две трети людей, погибших в автокатастрофах в Британии, были пристегнуты,…

  • первый том щербакова

    Издали первый том песен Щербакова, песни за 1981-1987 (с полной нотной записью, не только словами). Недешево. Но очень уж хорошо. Еще и пишут,…

  • Post a new comment

    Error

    default userpic

    Your IP address will be recorded 

    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 72 comments
Previous
← Ctrl ← Alt
Next
Ctrl → Alt →
Previous
← Ctrl ← Alt
Next
Ctrl → Alt →

  • про войну

    Я тут читал дискуссию на реддите (англ.) о том, стоило ли Америке и Британии входить в союз с СССР против Гитлера (автор считает, что не стоило,…

  • о грамотном отношении к статистике

    Вот например такое выступление на Твиттере (перевод ниже): "Примерно две трети людей, погибших в автокатастрофах в Британии, были пристегнуты,…

  • первый том щербакова

    Издали первый том песен Щербакова, песни за 1981-1987 (с полной нотной записью, не только словами). Недешево. Но очень уж хорошо. Еще и пишут,…