Facebook был вынужден закрыть одну из своих систем искусственного интеллекта после того, как она вышла из под контроля. Программисты обнаружили, что чат-боты начали общаться между собой не на английском, а на собственном непонятном для людей языке.
Агенты с искусственным интеллектом, созданные для переговоров с людьми, сначала разговаривали друг с другом на простом английском языке, но в итоге создали новый язык, который понимали только системы ИИ.
После этого Facebook отключил часть системы и перепрограммировал других ботов, чтобы они могли общаться только на английском.
Напомним, в середине июля Илон Маск, генеральный директор SpaceX, назвал искусственный интеллект основной угрозой для человечества и отметил, что сейчас люди и не представляют, какую опасность ИИ может представлять для цивилизации. Предприниматель высказал мнение о необходимости регулирования этой области на государственном уровне.
Источник: Techtimes
