Представники та компанії з 28 країн, у тому числі США та Китаю, а також ЄС, підписали угоду, яка спрямована на подолання ризиків так званих прикордонних моделей ШІ.
Міжнародні уряди підписали «першу в світі» угоду про штучний інтелект (ШІ) на глобальному саміті у Сполученому Королівстві для боротьби з «катастрофічними» ризиками, які ця технологія може представляти.
Технічні експерти, світові лідери та представники з 27 країн і Європейського Союзу відвідують британський саміт з безпеки штучного інтелекту, який проходить із середи до четверга в Блетчлі-парку.
Велика Британія оголосила, що інвестує в суперкомп’ютер зі штучним інтелектом, а керівник Tesla та X Ілон Маск заявив у кулуарах заходу, що ШІ є «однією з найбільших загроз для людства».
Однак багато представників технічної спільноти підписали відкритий лист із закликом до цілого спектру підходів — від відкритого коду до відкритої науки, а також до спільної роботи вчених, технічних лідерів і урядів.
Ось основні висновки з події.
Угода AI
Декларація Блетчлі про безпеку штучного інтелекту – це заява, підписана представниками та компаніями 28 країн, включаючи США, Китай та ЄС. Він спрямований на подолання ризиків так званих прикордонних моделей ШІ – великих мовних моделей, розроблених такими компаніями, як OpenAI.
Уряд Великої Британії назвав це «першою в світі» угодою між підписантами, метою якої є визначення «ризиків безпеки штучного інтелекту, що викликають спільне занепокоєння» та створення «відповідної політики, заснованої на ризиках, у країнах».
Він попереджає, що передовий штучний інтелект, який є найдосконалішою формою технології, яка використовується в генеративних моделях, таких як ChatGPT, має «потенціал завдати серйозної, навіть катастрофічної, шкоди, навмисної чи ненавмисної, що випливає з найбільш значущих можливостей цих моделі ШІ».
Державний секретар Великої Британії з питань науки, інновацій і технологій Мішель Донелан заявила, що угода є «визначним досягненням» і що вона «закладає основу для сьогоднішніх дискусій».
Однак експерти стверджують, що ця угода недостатня.
«Об’єднання провідних держав для схвалення етичних принципів можна вважати успіхом, але розробка конкретних політик і механізмів підзвітності має відбутися швидко», — сказав Euronews Next Пол Тітер, генеральний директор дослідницької фірми AMPLYFI, що працює на основі штучного інтелекту.
«Нечітка термінологія залишає простір для неправильного тлумачення, тоді як покладатися виключно на добровільну співпрацю недостатньо для впровадження всесвітньо визнаних найкращих практик щодо ШІ».
- AI: ChatGPT споживає більше енергії, ніж традиційний пошук в Інтернеті
- Більше самітів ШІ
- Уряд Великої Британії також оголосив про проведення майбутніх самітів з безпеки ШІ.
Протягом наступних шести місяців Південна Корея запустить ще один «міні-віртуальний» саміт щодо штучного інтелекту, а Франція прийме наступний особистий саміт щодо штучного інтелекту наступного року.
хто що сказав
Технічний підприємець-мільярдер Ілон Маск прибув на саміт і мовчав під час переговорів, але попередив про ризики ШІ.
«Ми не сильніші й не швидші за інших істот, але ми розумніші. І ось ми, вперше в історії людства, з чимось, що буде набагато розумнішим за нас».
Маск, який є співзасновником розробника ChatGPT OpenAI і запустив нове підприємство під назвою xAI, сказав, що для технологічних компаній має бути «рефері», але це регулювання слід впроваджувати з обережністю.
«Я думаю, що ми тут прагнемо… по-перше, встановити, що має бути функція судді, я думаю, що вона повинна бути.
«А потім, знаєте, будьте обережні в тому, як застосовуються правила, щоб не брати участь у правилах, які перешкоджають позитивній стороні ШІ».
Пізніше в четвер Маск поговорить з прем’єр-міністром Великобританії Ріші Сунаком на своїй платформі X, яка раніше називалася Twitter.
Урсула фон дер Ляєн
Глава Європейської комісії Урсула фон дер Ляєн попередила, що штучний інтелект пов’язаний з ризиками та можливостями, і похвалила те, що квантова фізика привела до ядерної енергії, а також до суспільних ризиків, таких як атомна бомба.
«Ми вступаємо в зовсім іншу еру. Зараз ми на зорі ери, коли машини можуть діяти розумно. Моє бажання на наступні п’ять років полягає в тому, щоб ми брали уроки з минулого і діяли швидко!», – сказала вона.
Фон дер Ляєн закликала до створення системи об’єктивних наукових стримувань і противаг з незалежною науковою спільнотою та до стандартів безпеки ШІ, прийнятих у всьому світі.
Вона сказала, що Закон ЄС про штучний інтелект знаходиться на завершальній стадії законодавчого процесу. Вона також повідомила, що обговорюється потенціал Європейського офісу штучного інтелекту, який міг би «працювати з найдосконалішими моделями штучного інтелекту, відповідаючи за нагляд» і співпрацював би з подібними організаціями по всьому світу.
Камала Гарріс
Віце-президент США Камала Харріс заявила, що зараз необхідно вжити заходів для вирішення «повного спектру» ризиків штучного інтелекту, а не лише «екзистенційних» страхів щодо загроз кібератак або розробки біологічної зброї.
«Існують додаткові загрози, які також вимагають наших дій, загрози, які зараз завдають шкоди і для багатьох людей також здаються екзистенційними», — сказала вона в посольстві США в Лондоні.
Король Карл III
Король Великобританії Карл III надіслав відеопромову, у якій порівняв розвиток ШІ зі значенням розщеплення атома та використання вогню.
Він сказав, що штучний інтелект є «одним із найбільших технологічних стрибків в історії людства» і сказав, що він може допомогти «пришвидшити нашу подорож до чистого нуля та реалізувати нову еру потенційно безмежної чистої зеленої енергії».
Але він попередив: «Ми також повинні працювати разом над боротьбою з його значними ризиками».
Негативна реакція технічної спільноти
Президент Meta з глобальних справ Нік Клегг сказав, що існує «моральна паніка» з приводу нових технологій, що вказує на те, що урядове регулювання може зіткнутися з негативною реакцією з боку технологічних компаній.
«Нові технології завжди викликають ажіотаж», — сказав Клегг. «Вони часто призводять до надмірного запалу серед прихильників і надмірного песимізму серед критиків.
«Я пам’ятаю 80-ті. Була моральна паніка щодо відеоігор. Була моральна паніка щодо радіо, велосипеда, Інтернету».
Марк Сурман, президент і виконавчий директор Mozilla Foundation, пов’язаної з браузером Firefox, також висловив занепокоєння тим, що саміт був всесвітньою платформою для приватних компаній для просування своїх інтересів.
У четвер Mozilla опублікувала відкритого листа, підписаного вченими, політиками та співробітниками приватних компаній, зокрема Meta, а також лауреата Нобелівської премії миру Марії Ресса.
«Ми неодноразово пересвідчилися, що збільшення громадського доступу та перевірки робить технології безпечнішими, а не небезпечнішими. Ідея про те, що жорсткий і закритий контроль базових моделей штучного інтелекту є єдиним способом захистити нас від шкоди суспільного масштабу, у кращому випадку наївна, небезпечна у гіршому”, – сказав Сурман у коментарі Euronews Next.
«Ми просимо політиків інвестувати в цілий ряд підходів — від відкритого вихідного коду до відкритої науки — у змаганнях за безпеку ШІ. Відкриті, відповідальні та прозорі підходи мають вирішальне значення для нашої безпеки та безпеки в епоху ШІ», — додав він. .
Новий суперкомп’ютер зі штучним інтелектом
Сполучене Королівство оголосило, що інвестує 225 мільйонів фунтів стерлінгів (257 мільйонів євро) у новий суперкомп’ютер зі штучним інтелектом під назвою Isambard-AI на честь британського інженера 19-го століття Ізамбарда Брунеля.
Він буде побудований в університеті Брістоля, що на півдні Англії, і уряд Великобританії заявив, що він буде в 10 разів швидшим за поточну найшвидшу машину Великобританії.
Окрім ще одного нещодавно анонсованого британського суперкомп’ютера під назвою Dawn, уряд сподівається, що обидва досягнуть прориву в термоядерній енергетиці, охороні здоров’я та моделюванні клімату.
Обидва комп’ютери планують запустити наступного літа.
Амбіції Великобританії
Не секрет, що Сунак хоче, щоб Великобританія була лідером у сфері штучного інтелекту, незрозуміло, як це буде регулюватися, а інші країни вже встановлюють власні правила штучного інтелекту. Існує жорстка конкуренція з боку США, Китаю та ЄС.
Президент Джо Байден заявив, що «Америка лідируватиме в цей період технологічних змін» після підписання указу про штучний інтелект 30 жовтня. Тим часом ЄС також намагається встановити власний набір вказівок щодо штучного інтелекту.
Однак, на відміну від ЄС, Велика Британія заявила, що не планує ухвалювати нове законодавство для регулювання штучного інтелекту, а натомість вимагатиме від існуючих регуляторів Великобританії відповідати за штучний інтелект у своїх секторах.
Китай також просуває власні правила, що регулюють генеративний ШІ.
Про це заявив заступник міністра технологій країни Ву Чжаохуей.
“Китайський саміт сприятиме створенню «міжнародного механізму [щодо штучного інтелекту], розширення участі та структури управління, заснованої на широкому консенсусі, що принесе користь людям і побудує спільноту зі спільним майбутнім для людства”.
euronews.com