?

Log in

No account? Create an account
Previous Entry Share Next Entry
Компьютер, которому лень. Как ИИ научился отвлекаться от поставленных человеком задач
irina0921


— Великий Думатель! Мы пришли издалека. Ты вычислил основной вопрос жизни, Вселенной и вообще?

— О, нет. Я смотрел телек…

В начале 1990-х этот диалог из произведения английского писателя-фантаста Дугласа Адамса казался очень смешным. Самый мощный в мире искусственный интеллект больше десяти миллиардов лет зависает перед телевизором вместо того, чтобы решать главную задачу, поставленную перед ним Вселенной. Ну не абсурд ли!


Прокрастинация считалась сугубо человеческой слабостью, когда ее приписывали компьютеру, это было смешно. Сегодня ученые, занимающиеся развитием искусственного интеллекта, над такими вопросами уже не смеются.

Шутка тридцатилетней давности стала реальной проблемой, которую не так-то просто решить. Американская некоммерческая исследовательская структура Open AI проводила тестирование, в рамках которого агент искусственного интеллекта должен был пройти через виртуальный лабиринт, чтобы взять объект, который ему указали, как важный и ценный. Эксперимент заглох на том этапе, когда в лабиринте появился телевизор, а у агента пульт.

Вместо того чтобы двигаться к поставленной цели, искать обозначенный объект, агент просто застрял перед телеком, бесконечно переключая каналы. Во время другого тестирования у него был виртуальный лазер, как и игре-стрелялке, и вместо того чтобы искать объект, он просто палил по стенам, чтобы увидеть куда попадет.

Чем сложнее и функциональнее становится система, тем меньше шансов, что на этапе испытаний будут выявлены все возможные сбои. Не говоря о том, что вместе со свойствами, подобными любопытству, ИИ приобретает самостоятельную мотивацию, в принципе не зависящую от воли направляющего его человека. Не будем сгущать краски — "восстание машин" все еще остается фантастическим сюжетом, очень далеким от реальности.

Впрочем, иногда фантасты предсказывают будущее. Кое-что из того, о чем в конце 1980-х — начале 1990-х писал Дуглас Адамс, похоже, уже сбылось.


Buy for 20 tokens
Вчера многие СМИ проводили опрос и, что характерно, большинство людей до сих пор считают себя жертвами перестройки Михаила Сергеевича Горбачёва. А…