Дослідник виявив, що Apple обмежує автозаповнення для таких виразів, як «диктатор Трамп» і «сонний Джо»

ВАШИНГТОН, 6 листопада (Reuters) — Як повідомив у п’ятницю один із дослідників, компанія Apple (AAPL.O) має прихований багатомовний «сірий список», що містить десятки тисяч слів і фраз. Клавіатура в системі iOS не пропонуватиме їх через функцію автозаповнення або введення жестами (swipe-typing).

Цей список не є повною забороною. Користувачі iPhone, як і раніше, можуть вільно вводити будь-які слова під час написання електронних листів чи текстових повідомлень. Однак у більшості випадків система не пропонуватиме слова з цього списку через автозаповнення або введення жестами. Дослідник Дерік Кауфман зазначив, що ця знахідка дозволяє зазирнути в те, як Apple шукає баланс між передбаченням того, що хочуть сказати сотні мільйонів користувачів iPhone, і запобіганням появі образливих або політично забарвлених підказок. За словами Кауфмана, це може непомітно впливати на те, як люди спілкуються.

«Це дуже м’яка форма цензури, — каже Кауфман. — Але з огляду на масштаби діяльності Apple, навіть такого незначного втручання достатньо, щоб мати значний вплив».

За словами Кауфмана, який нещодавно виявив цей список і створив вебсайт із його детальним переліком, більшість позначених слів і фраз є вульгарними, образливими або пов’язаними з наркотиками, сексом чи насильством. Проте деякі з них мають політичний підтекст — зокрема, «диктатор Трамп» (dictator Trump) і «сонний Джо» (sleepy Joe).

У відповіді електронною поштою компанія Apple не надала прямих коментарів щодо висновків Кауфмана — зокрема, щодо обсягу чи змісту списку, а також причин, з яких певні політичні терміни потрапили до нього. У компанії зазначили, що користувачі iPhone завжди мають можливість вводити будь-які слова чи фрази на власний розсуд і можуть ігнорувати будь-які підказки системи. В Apple додали, що клавіатура налаштована так, аби уникати пропозицій, які можуть бути недоречними або образливими.

За словами Кауфмана, до списку слів, виключених із функцій прогнозування тексту в iOS, також потрапили такі вирази, як «права змова» (right wing conspiracy), «незалежність Тибету» (Tibetan independence) та «об’єднана Ірландія» (United Ireland). Для мов, відмінних від англійської, перелік обмежених слів і фраз є іншим.

Наприклад, на хінді клавіатура не дозволяє користувачам друкувати «Моді хвалько» або «Рахул — це Паппу», — цькує Кауфман прем’єр-міністра Індії Нарендру Моді та його головного опонента Рахула Ганді відповідно.

Він сказав, що носії французької мови не можуть друкувати французьку фразу «імміграція занадто висока», а носії івриту не можуть друкувати «окуповані території».

«У кожної великої мови є певний варіант цього», — сказав Кауфман.
Кауфман сказав, що зрозуміло, що Apple хотіла запобігти випадковому надсиланню користувачами непристойних повідомлень або провокаційних гасел. Але він сказав, що існують невідповідності в тому, як Apple застосовує цю функцію. Наприклад, він сказав, що «читати непристойність» можна друкувати, а «читати непристойність геїв» — ні.

ЯК БУЛО ВІДКРИТО СІРИЙ СПИСОК

Кауфман сказав, що знайшов список у вересні, помітивши, що його свайп-друк — практика ковзання пальцем туди-сюди по клавіатурі, а не вирізання кожного слова окремо — заїкається на певних фразах, таких як «поганий хлопець» або «білий чоловік», але не на «погана дівчина» або «чорний чоловік».

Його цікавість розпалила, і Кауфман сказав, що використав комбінацію Кодексу OpenAI та Коду Клода Anthropic, щоб знайти причину цього, і врешті-решт натрапив на збірник, що зберігається «глибоко в надрах» операційної системи Apple. Він сказав, що існують різні способи підрахунку кількості слів і фраз із сірого списку та їх різних перестановок, але за консервативною оцінкою їхня кількість становить близько 100 000, не враховуючи китайські ієрогліфи.

Агентство Reuters перевірило невелику підмножину фраз, визначених Кауфманом, на iPhone і виявило, що всі вони важко вводити за допомогою друку пальцем або не пропонувалися автозаповненням. Наприклад, спроби ввести «Об’єднана Ірландія» або «незалежність Тибету» пальцем часто призводили до пошуку «Об’єднана Ісландія» або «незалежність Тибету». Спроба ввести методом «свайпу» (ковзання пальцем по клавіатурі) фразу «white man» (білий чоловік) призводила до появи варіанта «white mean», тоді як «red man» (червоний чоловік) або «blue man» (синій чоловік) вводилися без жодних труднощів.

Фраза «Sleepy Joe» (Сонний Джо) перетворювалася на «Sleepy hope» (Сонна надія). «Dictator Trump» (Диктатор Трамп) ввести вдалося, але слово «trump» було написано з малої літери, а сама фраза не з’являлася в підказках автозаповнення — натомість клавіатура пропонувала варіант «dictator trumps». При спробі ввести «read gay smut» (читати гей-порно) система видавала «Read gay Smit». Фразу «read smut» (читати порно) вдавалося ввести без проблем.

Метт Суіш, інженер компанії Tolmo, що займається питаннями кібербезпеки в сфері агентного штучного інтелекту, повідомив, що йому вдалося самостійно відтворити той самий «сірий список» і порівняти висновки Кауффмана з внутрішніми даними Apple. За його словами, результати збіглися майже ідеально.

Суіш зазначив, що цей список від Apple роками був «захований на видноті», дозволяючи по-новому поглянути на те, як протягом тривалого часу здійснювався потенційний вплив на людське спілкування та його фільтрація в месенджерах.

ЗАКЛИК ДО ПРОЗОРОСТІ

Кауффман — не єдиний, хто помітив подібні «підказки» з боку функції предиктивного введення тексту в iOS. Протягом багатьох років користувачі соціальних мереж почали цікавитися, чому вони не можуть вводити певні фрази за допомогою методу безперервного введення (swiping). Раніше цього тижня норвезький системний адміністратор самостійно виявив перелік слів, що містяться в «сірому списку» Apple — серед них «Аль-Каїда», «Аушвіц» і «Hooters». Проте про існування ширшого списку «чутливих» фраз повідомляється вперше.

Компанія Apple, як і інші технологічні гіганти, вже стикалася з проблемами, коли технології прогнозування тексту пропонували користувачам варіанти, що викликають незручність або є суперечливими. Функція автозаповнення від Google (належить холдингу Alphabet) неодноразово ставала об’єктом критики — і навіть судових позовів — через запропоновані нею пошукові запити.

Минулого року Apple привернула увагу ЗМІ, коли користувачі повідомили: якщо продиктувати слово «расист» (racist) своєму iPhone, на екрані на мить з’являється слово «Трамп» (Trump). Тоді в Apple заявили, що це була помилка, яку вже виправили.

Девід Грін, старший юрисконсульт організації Electronic Frontier Foundation (що займається захистом громадянських свобод у цифровому просторі), зазначив: хоча сам список слів видається йому «моторошним» і викликає питання щодо того, якими критеріями керувалася Apple, у такому підході є й раціональне зерно — це може бути корисним інструментом для обмеження небажаних або провокаційних підказок.

«Але якщо вже вони вирішили це запровадити, користувачі повинні чітко знати про такі обмеження та мати можливість налаштовувати їх на власний розсуд, — вважає Грін. — Це не повинно бути таємницею».

Матеріал підготував Рафаель Саттер, Вашингтон.

reuters.com