Ученые: "ИИ-Санта" может уничтожить мир

Ученые: "ИИ-Санта" может уничтожить мир

Появление «настоящего» искусственного интеллекта, способного мыслить как человек, может иметь разрушительные последствия для всего мира. Угрозу может представлять даже высокоразвитый ИИ, запрограммированный на добрые дела, предупредили исследователи австралийского Университета Саншайн-Кост.

Масштабы опасности показали на примере гипотетического алгоритма SantaNet. Его поставили на место Санта-Клауса, которому нужно доставить все новогодние подарки за одну ночь.

Как показал мысленный эксперимент, угроза возникает уже на этапе составления списка хороших и непослушных детей. Воспринимая задачу буквально и не имея злого умысла, нейросети пришлось бы создать масштабную систему для скрытого наблюдения по всему миру. Определяя, какое поведение считать «хорошим» круглый год, «ИИ-Санта» будет руководствоваться собственными моральными принципами, что может привести к дискриминации, массовому неравенству и нарушению прав человека.

В мире живет около двух миллиардов детей младше 14 лет, поэтому компьютерному разуму понадобится создать армию подобных себе ИИ-работников. В свою очередь, это приведет к росту безработицы среди людей.

Более того, чтобы обеспечить подарком каждого, SantaNet может превратить Землю в гигантскую фабрику по производству игрушек. В результате ресурсы планеты будут истощены за очень короткое время, предостерегают ученые.

Первым такую идею — «проблему скрепок» — изложил шведский философ Ник Бостром в 2003 году. Он предположил, что ИИ, преследуя цель максимизации производства скрепок, воспримет свою задачу буквально и будет сопротивляться любым попыткам его остановить.

«SantaNet может показаться надуманным, но эта идея помогает подчеркнуть риски более реалистичных систем сильного искусственного интеллекта, — заключают исследователи. — Разработанные с благими намерениями, такие системы могут создавать огромные проблемы, просто оптимизируя способы достижения своих узких целей и собирая ресурсы».

Источник: Вести

04:26
92
RSS
Нет комментариев. Ваш будет первым!
Итальянские медики сообщили о первом случае развития тиреоидита — воспаления щитовидной железы, которое было спровоцировано проникновением в нее коронавируса...
18:28
0
В Испании ученые опубликовали предварительный результат исследования о том, как коронавирус попал на территорию страны и как возник испанский штамм COVID-19.
16:50
0
Российские ученые в настоящее время создают вакцину от коронавируса, которая может вводиться в организм человека в виде кисломолочного продукта. Об этом расс...
18:34
0
В ближайшие 20 лет Азовское море может разрушить около 6,5 квадратных километров земель. К такому выводу пришли учёные Южного федерального университета и Южн...
12:23
0
Коронавирус может поражать головной мозг и центральную нервную систему, о чем свидетельствует изменения обоняния на ранних стадиях заболевания. Также это мож...
18:07
0
Этот очень настораживающий результат учёные из Калифорнии получили в ходе большого исследования. Оно показало, что непастеризованное, или сырое, молоко содер...
17:16
0