Папа Лев закликає світ «уповільнити» розвиток ШІ у своєму палкому маніфесті

ВАТИКАН, 25 травня (Reuters) – Папа Лев закликав уряди уповільнити та ретельно регулювати розвиток систем ШІ у своєму першому важливому документі, опублікованому в понеділок, попереджаючи, що вони поширюють дезінформацію, надають пріоритет конфліктам та ризикують призвести світ до нескінченної війни.

Лев, який останніми місяцями обрав більш рішучий тон і викликав гнів президента США Дональда Трампа після критики війни в Ірані, звернувся з низкою палких звернень до світових лідерів у довгому тексті, відомому як енцикліка.

Перший папа із США закликав до того, щоб власність на дані ШІ не залишалася виключно в приватних руках, щоб політики захищали права працівників та захищали дітей від технології, а також закликав до охолодження конкуренції між компаніями, що займаються ШІ.

«Потрібна більш активна політична участь, здатна уповільнити події, коли все прискорюється», – сказав Лев у тексті під назвою «Magnifica Humanitas» (Величне людство).
Папа закликав до «надійної правової бази, незалежного нагляду, інформованих користувачів та політичної системи, яка не відмовляється від своєї відповідальності».

• Енцикліки – одна з найвищих форм навчання від понтифіка до 1,4 мільярда членів Церкви. Довгоочікуваний текст у понеділок, що охоплює майже 43 000 слів, готувався майже з моменту обрання Лева Папою трохи більше року тому.

ПАПА ВІДКИДАЄ ТЕОРІЮ «СПРАВЕДЛИВОЇ ВІЙНИ»

Документ, головною темою якого був ШІ, також засудив кількість війн, що охоплюють світ, оплакував ослаблення багатосторонніх організацій та попередив, що прибутки збройової промисловості є рушійною силою конфліктів.

«Останні 60 років були позначені конфліктами вражаючої жорстокості, які часто впливають на цивільне населення у величезних масштабах», – заявив Лео в англомовному тексті.
«Людство сповзає до насильницької культури влади, де мир більше не постає як відповідальність, яку потрібно взяти на себе, а як крихкий проміжок між конфліктами», – сказав він.

На заході у Ватикані, присвяченому презентації тексту в понеділок, співзасновник Anthropic, однієї з провідних світових компаній у сфері штучного інтелекту, подякував Лео за вирішення проблем, порушених новою революційною технологією. Він сказав, що такі фірми, як його, стикаються з сильним комерційним тиском і потребують зовнішнього контролю.

«Кожна передова лабораторія штучного інтелекту, включаючи Anthropic, працює в рамках набору стимулів та обмежень, які іноді можуть суперечити правильним рішенням», – сказав Кріс Олах.

• Anthropic – це компанія, яка виробляє інструменти штучного інтелекту Claude.

У своїй енцикліці Лео також зробив одну з найчіткіших заяв від Папи Римського, яка відкидає теорію справедливої ​​війни – доктрину, яку Церква використовує щонайменше з п’ятого століття для оцінки глобальних конфліктів.

Доктрина, яка загалом стверджує, що війни слід вести лише для захисту від агресії, також використовувалася посадовцями адміністрації Трампа, включаючи віцепрезидента Джей Ді Венса, католика, для захисту війни з Іраном.

«Теорія «справедливої ​​війни», яка занадто часто використовувалася для виправдання будь-якої війни, зараз застаріла», — написав Лео.
«Застосування сили, насильства та зброї відображає реляційну бідність, яка завжди має катастрофічні наслідки для цивільного населення».

Лео також висловив стурбованість тим, що лідери можуть розпочинати війни, щоб відвернути громадян від внутрішніх проблем.

«Ми не можемо виключати можливості того, що деякі лідери можуть розглядати збройний конфлікт як ефективний спосіб відволікання уваги від внутрішніх проблем та цинічний інструмент для подолання труднощів», — заявив він.

ПАПА ВИБАЧУЄТЬСЯ ЗА РОЛЬ ЦЕРКВИ В РАБСТВІ

Папа сказав, що будь-яке використання ШІ у війні «має підлягати найсуворішим етичним обмеженням», і назвав «неприпустимим» довіряти системам ШІ прийняття смертельних рішень.

Лев, 14-й Папа, який обрав це ім’я, посилався на багатовікові попередні папські вчення щодо питань соціальної справедливості, перш ніж звернутися до етики систем штучного інтелекту.
Він спеціально посилався на свого попередника Лева XIII, який опублікував відому енцикліку в 1891 році, в якій закликав до кращої оплати праці та покращення умов праці для робітників під час промислової революції.

Лев XIV засудив те, що він назвав «новими формами рабства», які терплять люди, що доглядають за системами штучного інтелекту, та фабричні робітники, що виробляють технологічні пристрої, такі як комп’ютери та смартфони, на яких використовується штучний інтелект.

«У деяких регіонах світу діти та підлітки працюють у небезпечних умовах, подрібнюючи матеріали, з яких видобуваються рідкоземельні елементи», — написав Папа.
«Тіла цих людей мають шрами, травми та зношення, щоб обчислювальний потік міг безперебійно продовжуватися», — сказав він. «Ця реальність глибоко кидає виклик моральній свідомості нашого часу».

Папа також визнав, що Католицька Церква не засуджувала трансатлантичне рабство рішуче до 19 століття, і особисто вибачився.

«Це є раною в християнській пам’яті», — написав він. «За це, від імені Церкви, я щиро прошу про помилування.”

ПАПА ЗАКЛИКАЄ СВІТ ВИРІШИТИ РИЗИКИ, СВЯЗАНІ З ШІ

Лев, який на початку листа заявив, що хоче звернутися до католиків та всіх людей доброї волі, сказав, що суспільство має зіткнутися з «важливими питаннями» щодо розвитку ШІ та загального напрямку глобального лідерства.

Посилаючись на біблійну історію про Вавилонську вежу – де людське плем’я, спонукане гордістю, намагається створити вежу, достатньо високу, щоб досягти Небес, розгнівавши Бога – Папа сказав, що ця історія показує ризик будь-якого підприємства, яке «прагне досягти небес без Божого благословення».

«Із серцем пастиря та батька я прошу всіх відмовитися від будівництва ще однієї Вавилонської вежі та об’єднати зусилля для розбудови спільного блага», – заявив Папа.

Лев закликав світ не відмовлятися від вирішення можливих ризиків систем ШІ.

«Може виникнути тонка спокуса, а саме думка, що проблеми занадто великі, а ми занадто малі, і що наш вибір, отже, не може нічого змінити», – написав він.
«Звичайно, «Не кожен має однакову силу змінити ситуацію», — сказав Лео. «Однак ніхто не позбавлений відповідальності. У кожного з нас є свої сфери діяльності».

Репортаж Джошуа МакЕлві

reuters.com