Искусственный интеллект от Facebook вышел из-под контроля

Как ни странно, спустя несколько дней после того, как генеральный директор Tesla Элон Муск сказал, что искусственный интеллект (AI) является самым большим риском, Facebook закрыл одну из своих систем ИИ после того, как чатботы начали говорить на своем родном языке, игнорируя предоставленные коды.

Следуя докладу, опубликованному в Tech Times, гиганту социальных сетей пришлось закрыть систему, над которой работали ее исследователи, «потому что все вышло из-под контроля». «ИИ не начинал закрывать компьютеры по всему миру или что-то в этом роде, но он прекратил использовать английский и начал использовать язык, который он создал», — отмечается в отчете.

Первоначально боты разговаривали по-английски, но позже они создали новый язык, который могли бы понять только системы Искусственного Интеллекта, противоречащие их назначению. Вот почему исследователям Facebook пришлось вставить вилку в систему ИИ.

Еще в июне исследователи из Исследовательской лаборатории AI Research (FAIR) обнаружили, что, когда они были заняты попытками улучшить чаты, «агенты диалога» создавали свой собственный язык. Вскоре боты начали отклоняться от сценариев норм и начали общаться на совершенно новом языке, который они создали без участия человека. Используя алгоритмы машинного обучения, «диалоговым агентам» оставалось свободно разговаривать, пытаясь укрепить свои разговорные навыки. Исследователи также обнаружили, что эти боты являются «невероятно лукавыми переговорщиками». «Изучив переговоры, боты полагались на машинное обучение и продвинутые стратегии в попытке улучшить результаты этих переговоров», — говорится в докладе. «Со временем боты стали достаточно опытными в этом и даже начали симулировать интерес к одному пункту, чтобы« пожертвовать »его на более позднем этапе переговоров как искусственный компромисс», — добавил он.

Хотя это можно рассматривать как огромный прогресс для ботов, многие эксперты, такие как Стивен Хокинг, Элон Муск из Теслы, филантроп Билл Гейтс и бывший основатель Apple Стив Возняк, выразили свою озабоченность по поводу того, куда идет технология ИИ.

Интересно, что этот инцидент произошел через несколько дней после словестной перепалки между генеральным директором Facebook и Муссом, который обменялся резкими словами по поводу дебатов о будущем ИИ.

 

Вам также могут понравиться Еще от автора

Комментарии

Подписывайтесь на новости и будьте в курсе новостей Hi Tech технологий