В США обдумывают меры контроля прозрачности алгоритмов на онлайн-сервисах

22:13 09.04.2015

|   877 прочтений



Цель, в числе прочих, — борьба с несправедливыми схемами назначения расценок и алгоритмической дискриминацией при предоставлении кредитов, аренде жилья, найме на работу и т. п.

 

В американской Федеральной комиссии по торговде создано Управление технической экспертизы, одна из задач которого — выработка мер по обеспечению прозрачности алгоритмов, применяемых на онлайн-сервисах. Цель, в числе прочих, — борьба с несправедливыми схемами назначения расценок и алгоритмической дискриминацией при предоставлении кредитов, аренде жилья, найме на работу и т. п.

Показателен пример с Google: согласно исследованию, проведенному в 2013 году учеными Гарварда, при поиске имен и фамилий, характерных для афроамериканцев, с большей вероятностью отображалась реклама сервисов, позволяющих выяснить криминальное прошлое человека. Есть и другие примеры — по словам исследователей, имеются свидетельства того, что при увеличении потока плохих новостей в ленте Facebook повышается явка избирателей на выборах. Facebook также может по какой-то причине не публиковать пост пользователя в лентах его друзей, и он, не получая «лайков», начинает беспокоиться, что его игнорируют.

В последнее время появляются компании наподобие Automated Insights, которая автоматически генерирует новости о доходах предприятий для Associated Press по результатам обработки данных. Как выяснилось, эти новости не всегда безошибочны; подобные ошибки могут влиять на экономику, и как подчеркивают американские власти, чтобы понять их причину, необходимо знать схему работы алгоритма и то, какими данными он пользовался.

В Комиссии рассматривают возможность обязать онлайн-компании публиковать принципы действия основных алгоритмов, но поскольку это труднореализуемо, вероятнее всего, будет принят другой подход, основанный на аудите результатов работы алгоритмов.


Теги: Государство, общество и ИТ Большие Данные
На ту же тему: