Дрон, оснащенный ИИ, атаковал своего оператора: виртуальный сценарий как предупреждение военным

04.06.2023 08:20 | Укррудпром

BBC News Русская служба, 2 июня 2023. Опубликовано 07:30 04 июня 2023 года Один из трех “крестных отцов” искусственного интеллекта, обладатель престижной премии Тьюринга канадский ученый Йошуа Бенжио заявил в интервью Би-би-си, что, по его мнению, военных вообще нельзя подпускать к технологиям ИИ.

 Американский полковник Такер Хэмилтон, отвечающий за тестирование и применение технологий искусственного интеллекта (ИИ) в войсках, на конференции британского Королевского авиационного общества рассказал про эксперимент, в котором оснащенный ИИ дрон принял решение атаковать своего же оператора, чтобы выполнить поставленную задачу — уничтожить ракетный комплекс наземного базирования.

По словам полковника, беспилотник, в программу которого был заложен запрет причинять вред своему оператору, в итоге уничтожил центр связи, позволявший оператору отдавать ему приказы.

Позже представитель ВВС США заявил, что Хэмилтон оговорился, когда рассказывал про эксперимент. Военные настаивают, что в реальности такой эксперимент не ставился, а речь шла о виртуальном сценарии, просчитанном на компьютере. Сам Хэмилтон в письме организаторам конференции тоже уточнил, что американские военные “никогда не проводили такой эксперимент, да это и не нужно было для выяснения возможного результата”.

Однако сама возможность подобного развития событий, даже в виртуальном пространстве, насторожила экспертов.

Потенциальные угрозы

Представители индустрии, связанной с искусственным интеллектом, в последнее время все чаще предупреждают о потенциальных угрозах для человечества, которые он несет, хотя многие эксперты в этой области склонны считать такой риск преувеличенным.

Тем не менее один из трех “крестных отцов” искусственного интеллекта, обладатель престижной премии Тьюринга канадский ученый Йошуа Бенжио заявил в интервью Би-би-си, что, по его мнению, военных вообще нельзя подпускать к технологиям ИИ.

Это худшие руки, в которые только может попасть продвинутый искусственный интеллект, уверен ученый.

Другой “крестный отец” ИИ, знаменитый ученый-компьютерщик Джеффри Хинтон недавно заявил, что уходит из технологического гиганта Google, назвав страшными опасности, связанные с применением ИИ в чат-ботах.

Недавно открытое письмо об этом подписали предприниматель Илон Маск и сооснователь Apple Стив Возняк, предупредившие о целом ряде рисков, связанных с ИИ: от распространения дезинформации до лишения людей работы и потери контроля над цивилизацией.

“Не делать то, что не надо”

Корреспондент Би-би-си Зои Клейнман провела несколько часов, пытаясь собирая мнения экспертов как в области обороны, так и в области искусственного интеллекта, и все они скептически отнеслись к истории полковника Хэмилтона.

Один эксперт предположил, что в истории полковника Хэмилтона, по крайней мере, отсутствует важный контекст.

Стив Райт, профессор аэрокосмической техники в Университете Западной Англии и эксперт по беспилотным летательным аппаратам, пошутив, что он всегда был поклонником фильмов о Терминаторе, рассказал: “В компьютерах управления самолетом есть две вещи, о которых нужно беспокоиться: “делать то, что надо” и “не делать то, что не надо”, так что это классический пример второго варианта”.

“В реальности мы решаем эту проблему, всегда подключая второй компьютер, который запрограммирован с использованием методов еще старой школы и, образно говоря, вырубает рубильник, как только первый сделает что-то странное”, — добавил Стив Райт.

Додати коментар

Користувач:
email:





Financial world turns
Invest, save, spend, and plan ahead
Money never sleeps

- Fin.Org.UA

Новини

18:00 - За тиждень Нацбанк продав 661 мільйон доларів
17:00 - Гетманцев прокоментував законопроєкт, який може амністувати ОПК за корупційні злочини
15:54 - BlackRock припинила перемовини про інвестиційний фонд для України після перемоги Трампа
14:54 - Частина Чугуєва без світла після російської атаки – мер
13:58 - ОПЕК+ знижує ціни: домовились про більший видобуток
13:02 - московіяни атакували відділення "Нової пошти" у Чугуєві
12:01 - США почнуть переговори з Китаєм щодо угоди з TikTok з наступного тижня – Трамп
10:55 - Трамп заявив, що підписав листи про мита до 12 країн
10:00 - CMO monobank іде з посади після восьми років
07:35 - Фінансовий астрологічний прогноз на 05.07.2025
00:00 - Новини від Міністерства енергетики України
21:00 - Новини 4 липня: блекаут на ЗАЕС через московія та наслідки атаки по Києву
20:40 - На Google подали антимонопольну скаргу в ЄС через AI Overviews
20:15 - Трамп готовий дозволити фермерам мати своїх мігрантів-робітників
19:45 - Індія може подвоїти експорт товарів до США через торгову угоду
19:20 - Європейські акції відреагували на наближення дедлайну щодо мит від США
18:50 - МАГАТЕ вивело фахівців з Ірану: навколо ядерної програми тепер інформаційний вакуум
18:30 - Удар окупантів спричинив блекаут на Запорізькій атомній електростанції
18:22 - На ЗАЕС стався блекаут через удар московія
18:05 - "Прекрасний" закон Трампа рятує США від дефолту – і штовхає в боргову яму
17:45 - В обігу з’явиться монета, присвячена Національній поліції України
17:30 - Нацбанк показав, яким буде курс валют після вихідних
17:22 - Macroeconomic and Monetary Review, July 2025
17:22 - Макроекономічний та монетарний огляд, липень 2025 року
17:20 - Республіка Корея започатковує нову програму економічного інноваційного партнерства з Україною на 10 млн дол
17:00 - У червні зросли надходження митних платежів до бюджету: основні бюджетоформуючі товари
16:45 - Прогноз про продажі електромобілів та гібридів у Китаї: зі 129 брендів лишаться 15
16:42 - Недбале управління і мільйонні втрати: аудит виявив фінансові порушення в Харківській лікарні №25
16:34 - Рада розгляне законопроєкт про конфіскацію російських вагонів
16:20 - Сезонна робота в Карпатах та Одесі: які зарплати за неї можна отримати


Більше новин

ВалютаКурс
Алжирський динар0.32235
Австралійський долар27.3713
Така0.34041
Канадський долар30.7083
Юань Женьміньбі5.8265
Чеська крона1.9928
Данська крона6.5835
Гонконгівський долар5.3167
Форинт0.123226
Індійська рупія0.48873
Рупія0.0025784
Новий ізраїльський шекель12.4591
Єна0.28904
Теньге0.080335
Вона0.030613
Ліванський фунт0.000466
Малайзійський ринггіт9.8837
Мексиканське песо2.2383
Молдовський лей2.4755
Новозеландський долар25.3034
Норвезька крона4.146
Саудівський ріял11.1276
Сінгапурський долар32.7583
Донг0.0015933
Ренд2.3675
Шведська крона4.366
Швейцарський франк52.5685
Бат1.29072
Дирхам ОАЕ11.3621
Туніський динар14.5031
Єгипетський фунт0.8457
Фунт стерлінгів56.9504
Долар США41.7341
Сербський динар0.41919
Азербайджанський манат24.5451
Румунський лей9.7119
Турецька ліра1.0474
СПЗ (спеціальні права запозичення)57.3874
Болгарський лев25.1183
Євро49.121
Ларі15.3541
Злотий11.5665
Золото139202
Срібло1539.03
Платина58027.09
Паладій47531.38

Курси валют, встановлені НБУ на 07.07.2025