Искусственный интеллект на время заблокировал канал хорватского шахматиста, потому что неверно понял его наполнение. Алгоритм сайта Youtube посчитал, что на канале слишком часто используются такие слова как «черные», «белые» и «атака».
Valeurs Actuelles (Франция): «черные», «белые», «атака»... Шахматный канал на YouTube забанили за «вредоносное содержимое»
Правила шахмат просты: два игрока ведут противостояние на расчерченным на клетки поле с помощью 32 фигур черного и белого цвета. Тем не менее они явно оказались слишком сложными для искусственного интеллекта видеоплатформы YouTube. Дело в том, что канал известного хорватского игрока Антонио Радича был заблокирован на 24 часа. Из-за чего? Из-за «вредоносного и опасного содержимого».
Так, алгоритм сайта посчитал, что на канале слишком часто используются такие слова как «черные», «белые» и «атака». При этом атака черной пешкой или ладьей является неотъемлемой частью шахматного вокабуляра. Искусственный интеллект посчитал это проявлением ненависти.
Непонимание смысла и контекста
Подобная ошибка тем сильней сбивает с толку, что у канала шахматиста более миллиона подписчиков, а его видео набирают в среднем 5 миллионов просмотров. Хотя блокировка продлилась всего сутки, она все равно поднимает вопрос надежности алгоритма. Как подчеркивают опрошенные Independent специалисты Университета Карнеги Меллон (Питтсбург), алгоритм не в состоянии увидеть разницу между природой слов и контекстом. «Если искусственный интеллект используется для выявления расистских заявлений, подобные инциденты могут повториться», — отмечают они, проанализировав 680 000 комментариев с пяти самых популярных шахматных каналов. Пока еще неясно, какие меры будут приняты платформой для предотвращения подобного в будущем.
Фото - Кадр youtube
Подпишитесь на наш телеграм-канал
Посетители, находящиеся в группе Читатели, не могут оставлять комментарии к данной публикации.