Алексей Турчин: Самоусиливающийся ИИ

13 февраля 2017 Алексей Турчин (https://www.youtube.com/user/turchin/ ) провёл открытую встречу по футурологии (https://vk.com/kocherga_future ) в Кочерге (http://kocherga-club.ru/ ) и рассказал о самоусилении искусственного интеллекта.

Видео про будущее в Кочерге:
https://www.youtube.com/playlist?list...

«Самоусиливающийся ИИ» — магические слова, которые могут объяснить что угодно. Нам говорят: «Вот появится самоусиливающийся ИИ, и тут все изменится». Но что происходит внутри самоусиливающегося ИИ? Мы пристально посмотрим на разные режимы изменений, который могут происходить в будущем ИИ, и постараемся понять, на какие их них можно влиять, чтобы сделать ИИ более безопасным.

Эти режимы вкратце такие: подключение новых компьютеров, обучение, подключение программных модулей, глобальная смена архитектуры и мастер алгоритма, смена инструментальных целей, смена окончательной цели, выращивание новых поколений, создание собственных копий. Мы постараемся доказать, что чем выше уровни изменений, тем меньше сам ИИ будет их хотеть, поскольку в них есть риски для него самого, в силу чего ИИ может предпочитать эволюционное развитие революционному.

Однако если его будет поджимать конкуренция со стороны других ИИ, он вынужден будет перейти к более рискованному революционному развитию.

Страницы события:
https://vk.com/wall-118482811_48
https://www.facebook.com/events/17533...
https://kocherga.timepad.ru/event/444...

• Category

  • Science & Technology

• License

  • Standard YouTube License