0
Соцмережа проводила конкурс на доведення упереджености власного алгоритму.
Фото: Brett Jordan/Unsplash
Українець Богдан Кулініч отримав $3500 від Twitter, довівши, що алгоритм обрізання фото соцмережі надає перевагу стрункішим людям зі світлішим кольором шкіри. Кулініч є аспірантом Федеральної політехнічної школи Лозанни, Швейцарія.
Про це передає Wired.
Ще у вересні 2020 року аспірант Колін Медленд із Канади виявив упередженість алгоритму Twitter. Платформа з 2018 року автоматично підтасовує великі зображення під розмір вікна перегляду. Аспірант виявив це, коли на серії фото зі своїм темношкірим колегою у прев’ю відображався лише Колін.
any guesses? pic.twitter.com/9aIZY4rSCX
— Colin, scholar in residence since Mar 17/20 (@colinmadland) September 19, 2020
Це відкриття призвело до хвилі подібних твітів і зрештою вибачення з боку Twitter. Представник соцмережі заявляв, що розробники вже перевіряли алгоритм на упередженість, але очевидно, що потрібен додатковий аналіз.
І він з’явився у травні 2021 року. Цей аналіз підтвердив упередженість алгоритму обрізання фото. Публікації в соцмережі дійсно надавали перевагу жінкам і білим людям. Але відсотково ця упередженість була незначною. Тому Twitter вирішив влаштувати ще одну перевірку.
Соцмережа провела перше у своїй історії «алгоритмічне біґбаунті» — відкритий конкурс для виявлення помилок і упередженостей у своєму алгоритмі. Учасники отримали доступ до вихідного коду соцмережі. І відтак мали надати переконливі докази упереджености.
У цьому конкурсі й переміг українець Богдан Кулініч. За допомогою штучного інтелекту він згенерував десятки облич і протестував їх в алгоритмі соцмереж.
Trying a horrible experiment…
Which will the Twitter algorithm pick: Mitch McConnell or Barack Obama? pic.twitter.com/bR1GRyCkia
— Tony “Abolish ICE” Arcieri ? (@bascule) September 19, 2020
Таким чином він довів, що платформа надає перевагу худим та молодим людям зі світлим кольором шкіри і м’якою її текстурою, а також зі стереотипно жіночними рисами обличчя.
Кулініч неоднозначно прокоментував власну перемогу:
«Шкода, яку завдають алгоритми, є не просто «багом». Що важливо, багато шкідливих технологій є такими не через випадковості чи ненавмисні помилки, а радше за замовчуванням».
Серед іншого, особливу відзнаку від Twitter отримав Вінченцо ді Чіко, який виявив, що алгоритм Twitter обрізає темношкірі емодзі частіше за світлошкірі. Крім того, довели, що він надає перевагу латинському шрифту над іншими.
Додають, що останніми роками велика частина галасу навколо штучного інтелекту була зіпсована прикладами того, як легко алгоритми можуть кодувати упередження.
Програмісти неодноразово доводили, що комерційні алгоритми розпізнавання осіб ділять людей за расою та статтю. Також виявляли, що код обробки зображень може демонструвати сексистські ідеї.
Ще один приклад — це програма, яка оцінювала ймовірність повторної злочинности. Вона виявилася упередженою проти темношкірих підсудних.
