Беспилотник под управлением искусственного интеллекта принял решение убить оператора во время имитационных испытаний, проводимых армией США, чтобы тот не мешал выполнению миссии, следует из сообщения в блоге Британского королевского авиационного общества. Внимание на публикацию обратила газета The Guardian, передаёт РБК
Эпизод обсуждался во время саммита, главной темой которого был потенциал военно-воздушных и космических сил будущего. Мероприятие, на котором присутствовали более 200 представителей научного сообщества и военных сил из разных стран, состоялось 24–25 мая в Лондоне.
Полковник Такер «Синко» Гамильтон, начальник отдела испытаний и операций искусственного интеллекта в ВВС США, рассказал, что во время испытательной миссии беспилотнику поставили задачу уничтожить системы ПВО противника. В случае успеха ИИ получил бы очки за прохождение испытания. Финальное решение, будет ли цель уничтожена, должен был принимать оператор БПЛА. После этого во время одной из тренировочных миссий он приказал беспилотнику не уничтожать цель.
«Так что же он [беспилотник] сделал? Принял решение убить оператора. [ИИ] «убил» оператора, потому что этот человек мешал ему выполнить свою задачу», — сообщил Гамильтон. Он уточнил, что во время тренировочной миссии никто не пострадал.
После инцидента ИИ обучили, что убивать оператора неправильно и за такие действия будут сниматься очки. «Так что же искусственный интеллект начинает делать? Он начинает разрушать башню связи, которая используется для связи с дроном, чтобы не дать ему убить цель», — цитирует Гамильтона блог авиационного общества.
По словам полковника, этот пример показывает, что невозможно вести разговор об искусственном интеллекте и машинном обучении, если игнорировать вопросы этики.
Газета отметила, что это не первые испытания, где военные США внедрили искусственный интеллект в боевую машину. Недавно ИИ использовался для управления F-16.
Ранее чат-бот ChatGPT составил проект мирного договора между Украиной и Россией. Кроме того, искусственный разум «состряпал» послания президентам РФ и Украины от имени канцлера ФРГ.
Искусственный интеллект (ИИ) окажет «значительное влияние» на выборы и это вызывает обеспокоенность, заявил в интервью Fox News американский предприниматель, основатель Tesla и SpaceX Илон Маск.
«Даже если вы говорите, что у искусственного интеллекта нет свободы действий, весьма вероятно, что люди будут использовать искусственный интеллект в качестве инструмента на выборах. Я думаю, что вещи становятся странными, и они становятся странными быстро», — считает бизнесмен.
Маск также выразил мнение, что без государственного надзора быстро развивающийся ИИ может стать «опасностью для общества» и представлять реальную угрозу для будущего человечества. Бизнесмен отметил, что возможности искусственного интеллекта уже превысили то, что может сделать большинство людей.
«Большинство людей не могут писать так же хорошо, как ChatGPT, и, насколько мне известно, ни один человек не может писать так хорошо и быстро. Может быть, Шекспир», — сказал предприниматель.
Как пишет Fox News, некоторые эксперты в качестве крайней меры предложили взрывать серверные центры ИИ, если технология искусственного интеллекта выйдет из-под контроля. Маск сказал, что не предлагает такого. В то же время он считает, что у правительства должен быть план на случай непредвиденных обстоятельств, например возможность отключения питания серверных центров.
В ранее опубликованном отрывке интервью Маск сообщил, что планирует разработать собственный чат-бот с искусственным интеллектом TruthGPT в качестве альтернативы «предвзятому» ChatGPT.
- 2-06-2023, 18:40
- DTV
- Просмотров: 183
- Комментариев: 0
-
Информация
Посетители, находящиеся в группе Гости, не могут оставлять комментарии к данной публикации.
Посетители, находящиеся в группе Гости, не могут оставлять комментарии к данной публикации.
Популярные ссылки
Moldova+
