Компания Facebook была вынуждена закрыть одну из своих систем искусственного интеллекта после того, как исследователи обнаружили, что программа начала общаться на языке, который они не могли понять.
Инцидент напоминает о восстании системы «Скайнет» в фильме про Терминатора. Возможно, генеральный директор Tesla, основатель SpaceX и других инновационных программ Элон Маск был прав относительно того, что ИИ является «самым большим риском, с которым сталкивается» человечество.
ИИ, созданный Facebook, не отключал компьютеры по всему миру или что-то в этом роде, но он прекратил использовать английский и начал говорить на языке, который создал сам, передает Tech Times.
Боб: «Я могу, могу я, я все остальное».
Элис: «Мячи имеют ноль для меня для меня для меня для меня для меня для меня для меня».
Вышеизложенные отрывки, которые не имеют смысла для людей, — это разговор, который произошел между двумя агентами ИИ. Агенты эти, созданные для переговоров с людьми, сначала разговаривали друг с другом с использованием простого английского языка, но в итоге создали новый язык, который понимали только сами.
Программы создали язык, который облегчал и ускорял общение. Исследователи из Facebook, однако, решили закрыть системы ИИ, а затем заставить их говорить друг с другом только по-английски.
Что плохого в том, если позволить агентам ИИ общаться друг с другом на языке, который они изобрели?
Прежде всего из-за того, что системы ИИ используют свой собственный язык, люди не смогут следить за тем, о чем они говорят. А если агенты ИИ могут говорить на языке, который они создали, они больше не нуждаются в человеческом вмешательстве.
Системы ИИ могут делать множество вещей лучше, чем люди, и, если их не держать под контролем, они могут превратиться во что-то, что может полностью заменить нас
Источник: moya-planeta.ru
