Только интересные факты на http://mirinteresen.net Любопытные, интересные и необычные факты из жизни мужчин, женщин, животных, любви, деньгах и многом другом что окружает нас каждый день. Посмотрев новости, вы узнаете самые интересные факты.

Искусственный интеллект воспитали психопатом

 Массачусетский технологический институт (MIT) представил новый алгоритм для искусственного интеллекта. Но он не поможет спрогнозировать сердечно-сосудистые заболевания, диагностировать рак кожи или разобрать музейный гербарий. Его "зовут" Норман и он настоящий психопат.

Обычно алгоритмы искусственного интеллекта создают так, чтобы они помогали людям. Но исследователи из MIT Media Lab решили поступить иначе и создали первую в мире искусственную психопатическую нейросеть.

И этот алгоритм получил соответствующее зловещее имя. Его зовут Норман, в честь Нормана Бейтса, знаменитого маньяка из романа «Психо» Роберта Блоха и его легендарной одноименной экранизации, поставленной Альфредом Хитчкоком. Он был задуман как часть первоапрельских розыгрышей, но постепенно стал вполне серьезным исследованием.

Не стоит опасаться, инженеры вовсе не задумали однажды реализовать сценарий восстания машин. Дело в том, что бурное развитие технологий создания искусственного интеллекта (ИИ) заставляет разработчиков задумываться о том, к чему могут приводить серьёзные ошибки на стадии его обучения.

Больше всего команду MIT в составе Пинар Янардаг (Pinar Yanardag), Мануэля Себриана (Manuel Cebrian) и Ияда Рована (Iyad Rahwan) интересовало, что именно заставляет ИИ быть необъективным, в чём его иногда пытаются обвинять.

Чтобы не мелочиться, учёные обучили Нормана распознаванию образов с помощью самых "тёмных уголков" сети Интернет. В него закачивали информацию о неадекватном поведении людей, и о суровой реальности смерти. При этом упор делался на ошибочное восприятие действительности.

В ходе этого процесса была использована уже ставшая классической технология глубокого обучения. Метод заключается в использовании нейросетей, которые позволяют имитировать ход мысли живого человека. В этом случае, для того чтобы начать делать выводы, компьютерный мозг должен изучить огромное количество отдельных изображений. Тогда он будет способен улавливать мельчайшие различия между ними.

 

Целью глубокого обучения ИИ в данном случае было создание текстовых комментариев к различным изображениям. Параллельно с Норманом разработчики выстраивали обычное "правильное" глубокое обучение для другого алгоритма, которому предстояло стать контрольным образцом в эксперименте. После такой тренировки Норману и «обыкновенному» ИИ показали несколько «пятен Роршаха». И если стандартный ИИ увидел в этих кляксах самолет, цветы и маленькую птичку, то Норман — людей, умирающих от огнестрельных ран, человека, выпрыгивающего из окна, расстрелянного из пулемета в разгар дня и даже попавшего в тестораскаточную машину.

Зачем же исследователи создали столь странную нейросеть? Нормана свели с ума не для того чтобы продемонстрировать дурное влияние Интернета на человеческую психику. Нейросеть, в отличие от человека, это чистый лист, у нее нет никаких побуждений или внутренних желаний, у нее нет биологии. Опыт Нормана обращается к совсем другой опасности: к тому, что искусственный интеллект может легко приобрести крайне опасные предубеждения и преконцепции. Это еще одна демонстрация того, что в случае ИИ и нейросетей, вы получаете то, что вкладываете в них, и крайне важно тренировать эти платформы так, чтобы они не формировали жестких предубеждений. И уж точно не стоит давать им возможность серфить по темным закоулкам сети.

Полный набор результатов теста можно найти на сайте, посвящённом Норману. Здесь все желающие могут сами сравнить "показания" двух ИИ.

Главным достижением проведённого исследования стало наглядное доказательство того, что ИИ выстраивает предвзятое мнение не самостоятельно, а исключительно в зависимости от того, каким образом проводилось его обучение. Поэтому авторы исследования призывают компьютерных инженеров, которые работают с ИИ, самым тщательным образом отбирать базы данных, на которых будет получать знания и настраиваться алгоритм. Это именно то, что должно свести количество ошибок в будущей работе к минимуму и не даст упрекнуть искусственный интеллект в необъективности суждений.

И теперь ученые хотят посмотреть, смогут ли они вылечить Нормана. Вы тоже можете в этом поучаствовать, пройти тот же тест Роршаха и добавить в базу собственные описания клякс. Исследователи будут использовать эту информацию, чтобы исправить модель Нормана и посмотреть, будет ли он видеть меньше убийств. Насколько удачным будет такой эксперимент, покажет только время.

Спасибо за интерес. Оценивайте, комментируйте, делитесь, подписывайтесь.


Теги: Искусственный интеллект Технологии
 Вернуться назад

Читайте так же:

  • Симуляции физических ощущений в виртуальной реальности
  • Когда машины будут работать вместо людей
  • Нейросети ошибаются в распознавании женщин и темнокожих
  • Искусственный интеллект создал нейросеть
  • Поцелуй на расстоянии, через интернет (1 фото + 1 видео)
  • Уважаемый посетитель, Вы зашли на сайт как незарегистрированный пользователь.
    Мы рекомендуем Вам зарегистрироваться либо войти на сайт под своим именем.

    Комментарии (0):

    Информация
    Посетители, находящиеся в группе Гости, не могут оставлять комментарии к данной публикации.