Фото: Gwydion M. Williams / Attribution License

Компания Facebook оказалась вынуждена закрыть одну из своих систем искусственного интеллекта, которая использовала машинное обучение. Причиной стало самостоятельное поведение системы.

Искусственный интеллект изобрел собственный язык, непонятный для людей, для общения между ботами, пишет International Business Times. При этом по задумке создателей, боты должны были уметь общаться между собой на английском языке.

Однако в процессе обучения системы самостоятельно перешли на другую форму коммуникации. В результате эксперты признали, что больше не могут анализировать, в каком состоянии находится искусственный разум и его пришлось отключить.

Аналитик указали, что если агенты искусственного интеллекта могут говорить на языке, который они сами создали, то они больше не нуждаются в человеческом вмешательстве и способны к самостоятельному развитию.

Предполагалось, что агенты искусственного интеллекта в виде ботов должны были обучаться без влияния людей, а затем использоваться в чатах для общения с клиентами.