Дрон, оснащенный ИИ, атаковал своего оператора: виртуальный сценарий как предупреждение военным

04.06.2023 08:20 | Укррудпром

BBC News Русская служба, 2 июня 2023. Опубликовано 07:30 04 июня 2023 года Один из трех “крестных отцов” искусственного интеллекта, обладатель престижной премии Тьюринга канадский ученый Йошуа Бенжио заявил в интервью Би-би-си, что, по его мнению, военных вообще нельзя подпускать к технологиям ИИ.

 Американский полковник Такер Хэмилтон, отвечающий за тестирование и применение технологий искусственного интеллекта (ИИ) в войсках, на конференции британского Королевского авиационного общества рассказал про эксперимент, в котором оснащенный ИИ дрон принял решение атаковать своего же оператора, чтобы выполнить поставленную задачу — уничтожить ракетный комплекс наземного базирования.

По словам полковника, беспилотник, в программу которого был заложен запрет причинять вред своему оператору, в итоге уничтожил центр связи, позволявший оператору отдавать ему приказы.

Позже представитель ВВС США заявил, что Хэмилтон оговорился, когда рассказывал про эксперимент. Военные настаивают, что в реальности такой эксперимент не ставился, а речь шла о виртуальном сценарии, просчитанном на компьютере. Сам Хэмилтон в письме организаторам конференции тоже уточнил, что американские военные “никогда не проводили такой эксперимент, да это и не нужно было для выяснения возможного результата”.

Однако сама возможность подобного развития событий, даже в виртуальном пространстве, насторожила экспертов.

Потенциальные угрозы

Представители индустрии, связанной с искусственным интеллектом, в последнее время все чаще предупреждают о потенциальных угрозах для человечества, которые он несет, хотя многие эксперты в этой области склонны считать такой риск преувеличенным.

Тем не менее один из трех “крестных отцов” искусственного интеллекта, обладатель престижной премии Тьюринга канадский ученый Йошуа Бенжио заявил в интервью Би-би-си, что, по его мнению, военных вообще нельзя подпускать к технологиям ИИ.

Это худшие руки, в которые только может попасть продвинутый искусственный интеллект, уверен ученый.

Другой “крестный отец” ИИ, знаменитый ученый-компьютерщик Джеффри Хинтон недавно заявил, что уходит из технологического гиганта Google, назвав страшными опасности, связанные с применением ИИ в чат-ботах.

Недавно открытое письмо об этом подписали предприниматель Илон Маск и сооснователь Apple Стив Возняк, предупредившие о целом ряде рисков, связанных с ИИ: от распространения дезинформации до лишения людей работы и потери контроля над цивилизацией.

“Не делать то, что не надо”

Корреспондент Би-би-си Зои Клейнман провела несколько часов, пытаясь собирая мнения экспертов как в области обороны, так и в области искусственного интеллекта, и все они скептически отнеслись к истории полковника Хэмилтона.

Один эксперт предположил, что в истории полковника Хэмилтона, по крайней мере, отсутствует важный контекст.

Стив Райт, профессор аэрокосмической техники в Университете Западной Англии и эксперт по беспилотным летательным аппаратам, пошутив, что он всегда был поклонником фильмов о Терминаторе, рассказал: “В компьютерах управления самолетом есть две вещи, о которых нужно беспокоиться: “делать то, что надо” и “не делать то, что не надо”, так что это классический пример второго варианта”.

“В реальности мы решаем эту проблему, всегда подключая второй компьютер, который запрограммирован с использованием методов еще старой школы и, образно говоря, вырубает рубильник, как только первый сделает что-то странное”, — добавил Стив Райт.

Додати коментар

Користувач:
email:





The markets are wild,
Investors rush to take flight,
Uncertainty reigns.

- Fin.Org.UA

Новини

18:00 - За тиждень Нацбанк продав майже мільярд доларів на міжбанку
17:57 - Графіки світла на понеділок: ввечері обмеження будуть найбільшими
17:38 - У Донецьк зупинилася подача води через відключення світла в московії - Центр нацспротиву
15:15 - КМДА звернеться до поліції щодо діяльності компанії, що експлуатує атракціон через Дніпро
14:46 - Австралія попереджає про шкідливі вебсайти після кіберзбою
13:45 - Пенсійний фонд України: Профінансовано на пенсійні виплати 51,6 млрд грн
13:42 - Сі Цзіньпін пообіцяв податкову реформу та підтримку місцевим органам влади Китаю
12:30 - Еквадор та Чилі уклали нову нафтову угоду на 90 мільйонів доларів інвестицій до 2035 року
11:38 - "Укренерго" скасовує графіки відключення світла з 12:00 до 15:00
11:31 - Енергетична ситуація в регіонах станом на 21 липня
11:22 - ЕНЕРГЕТИЧНА СИТУАЦІЯ В РЕГІОНАХ на 21 липня: через ворожі обстріли знеструмлено понад 11 тисяч абонентів у Сумській, Донецькій та Миколаївській областях
10:51 - За оцінкою Microsoft, від глобального технологічного збою постраждало менше 1% пристроїв з Windows
10:27 - Ситуація в енергосистемі станом на 21 липня
10:16 - Ситуація в енергосистемі на 21 липня: через ворожі обстріли на Чернігівщині знеструмлено понад тисячу споживачів; протягом доби діють обмеження споживачів
10:00 - московіяни завдали удару по критичній інфраструктурі Сумщини
09:54 - Оперативна інформація ДСНС щодо ліквідації наслідків обстрілів окупантами та роботи піротехнічних підрозділів
07:35 - Фінансовий астрологічний прогноз на 21.07.2024
00:00 - Новини від Міністерства енергетики України
18:13 - У неділю 21 липня енергетики застосовуватимуть одну та дві черги відключень
18:00 - Експорт нафти з московії в Китай за першу половину 2024 року зріс на 5%
17:15 - У центрі Києва знесли історичну Садибу Зеленських, поліція розслідує
16:22 - УЗ продовжує ліквідацію наслідків атаки московія по Харківщині: потяг до Краматорська затримається до опівночі
15:43 - В Іспанії заарештували трьох проросійських хакерів за кібератаки
15:00 - Світовим компаніям знадобляться тижні аби відновитись від глобального технологічного збою
14:08 - Масова перевірка ТЦК призвела до затримки у роботі "АрселорМіттал Кривий Ріг"
13:14 - Суд стягнув з фірми Ахметова переплату за світло криворізькими освітянами
13:06 - Енергетична ситуація в регіонах на 20 липня
12:52 - Уряд запустив "гарячу лінію" з питань енергетики "СТРУМ"
12:39 - ЕНЕРГЕТИЧНА СИТУАЦІЯ В РЕГІОНАХ на 20 липня: енергетики заживили понад 16 тисяч споживачів у Сумській, Донецькій та Дніпропетровській областях; через ворожі обстріли знеструмлено понад 28 тисяч абонентів у Чернігівській та Полтавській областях
11:49 - Вночі ворог атакував залізницю на Харківщині – поранено чотирьох працівників "Укрзалізниці"


Більше новин

ВалютаКурс
Австралійський долар27.7784
Канадський долар30.2568
Юань Женьміньбі5.7076
Чеська крона1.7893
Данська крона6.0564
Гонконгівський долар5.3128
Форинт0.115603
Індійська рупія0.49594
Рупія0.0025629
Новий ізраїльський шекель11.3507
Єна0.26354
Теньге0.087302
Вона0.029892
Мексиканське песо2.3152
Молдовський лей2.3441
Новозеландський долар24.9984
Норвезька крона3.8224
московський рубль0.47294
Сінгапурський долар30.8599
Ренд2.263
Шведська крона3.8925
Швейцарський франк46.6613
Єгипетський фунт0.8601
Фунт стерлінгів53.6232
Долар США41.4912
Білоруський рубль15.0811
Азербайджанський манат24.4224
Румунський лей9.0898
Турецька ліра1.2555
СПЗ (спеціальні права запозичення)55.0334
Болгарський лев23.1033
Євро45.186
Злотий10.5498
Алжирський динар0.3007
Така0.34298
Вірменський драм0.10422
Домініканське песо0.68714
Іранський ріал0.0009632
Іракський динар0.030881
Сом0.46797
Ліванський фунт0.000452
Лівійський динар8.2969
Малайзійський ринггіт8.5755
Марокканський дирхам4.0591
Пакистанська рупія0.14528
Саудівський ріял10.7829
Донг0.0015892
Бат1.10139
Дирхам ОАЕ11.0136
Туніський динар12.8663
Узбецький сум0.0032215
Новий тайванський долар1.24709
Туркменський новий манат11.5583
Сербський динар0.36985
Сомоні3.7936
Ларі14.449
Бразильський реал7.3541
Золото99968.9
Срібло1206.41
Платина39770.97
Паладій38313.39

Курси валют, встановлені НБУ на 22.07.2024

ТікерOpenMaxMinCloseVolume
CRSR061028.111028.111028.111028.114112.44
FSTF021003.071003.071003.071003.075015.35

Дані за 05.07.2024