Модель Mythos внесла "хаос" у стратегію США щодо штучного інтелекту – WSJ

Модель штучного інтелекту Mythos компанії Anthropic спричинила хаос у стратегії Білого дому: відкриваючі широкі можливості, модель також може знаходити й вразливі місця у системах, що непокоїть Білий Дім. Про це йдеться у публікації The Wall Street Journal. Як пише видання, віце-президент США Дж.
Д.
Венс був "стривожений" під час розмови з лідерами великих компаній у сфері штучного інтелекту. Учасники обговорювали, що технології можуть як захищати системи, так і потенційно використовуватися для пошуку та використання вразливостей. Такі моделі ШІ, такі як Mythos, здатні самостійно виявляти вразливості програмного забезпечення, можуть зробити можливими кібератаки, від яких місцеві уряди поки не мають захисту. Mythos здатна автоматично виявляти та комбінувати вразливості програмного забезпечення в масштабах, що перевищують людські можливості. "Ми всі повинні попрацювати над цим питанням", — сказав Венс генеральним директорам, включаючи Сема Альтмана з OpenAI, Даріо Амодеї з Anthropic, Ілона Маска із SpaceX та інших. Видання пише про "хаотичну реакцію адміністрації на Mythos, що загрожує збільшенням державного контролю над ШІ та переглядом технологічної програми адміністрації", – говориться у публікації. І це відрізняється від попереднього настрою щодо "перемоги в гонці штучного інтелекту проти Китаю" та усунення бар"єрів для впровадження моделей, зазначає WSJ.
Білий дім тепер розглядає встановлення нагляду за найсучаснішими моделями штучного інтелекту. Білий дім хоче вжити нові заходи безпеки та обмеження щодо використання інструментів штучного інтелекту. Компанія Anthropic надала доступ до моделі Mythos приблизно 40 великим технологічним компаніям для тестування та оцінки ризиків, пов"язаних із безпекою. У компанії заявили, що продовжують взаємодію з урядом США з питань можливостей і ризиків своїх моделей, особливо в частині кібербезпеки та потенційного подвійного використання технологій. Нагадаємо: Найбільші технологічні компанії США витратять цього року близько 725 млрд доларів на розвиток штучного інтелекту та дата-центрів, але це знизить їхній сукупний вільний грошовий потік. На ринку праці у IT-галузі відбувається зсув: затребуваними будуть експерти різних ролей та напрямків з глибокою експертизою у сфері штучного інтелекту.