Вестник цифровой трансформации CIO.RU

«Сбер» опубликовал 5 принципов этики искусственного интеллекта
«Сбер» опубликовал 5 принципов этики искусственного интеллекта




13:21 01.03.2021  |  3114 просмотров



Правление Сбербанка утвердило принципы этики разработки и применения технологий искусственного интеллекта в группе «Сбер».

Принцип № 1. «Контролируемость и управляемость систем ИИ» (Secure AI)

  • Разработка и применение технологий ИИ в «Сбере» являются безопасными, управляемыми и контролируемыми в максимальной возможной степени.
  • «Сбер» учитывает возможные риски, связанные с безопасностью технологий ИИ, и не допускает их выхода из-под контроля или причинения системой ИИ вреда человеку.
  • Внедрение ИИ в «Сбере» никогда не является самоцелью, а применяемые технологии должны пользоваться доверием клиентов, сотрудников и общества.

Принцип № 2. «Прозрачность и предсказуемость функционирования технологий ИИ» (Explainable AI)

  • «Сбер» несет ответственность за применение систем ИИ в своей деятельности. Группа стремится обеспечивать максимальную прозрачность, внутренний контроль и предсказуемость процесса и результатов их работы.
  • Технологии ИИ применяются «Сбером» с соблюдением законодательства, в том числе требований конфиденциальности, и с уважением к частной жизни человека, а также к коммерческой тайне. При работе с технологиями ИИ обеспечивается безопасность данных, а системы ИИ никогда не используются для незаконной обработки персональной информации граждан или информации корпоративных клиентов.

Принцип № 3. «Стабильность и надежность систем ИИ» (Reliable AI)

  • «Сбер» обеспечивает стабильность и надежность функционирования систем ИИ.
  • «Сбер» обеспечивает необходимый уровень технического оснащения и создает условия наибольшего благоприятствования для разработки и внедрения надежных систем ИИ.
  • «Сбер» реализует высочайший уровень гарантий всех прав и свобод человека при применении ИИ, поддерживая применение технологий ИИ исключительно на законных основаниях.

Принцип № 4. «Ответственное применение ИИ» (Responsible AI)

  • При внедрении ИИ в центре внимания «Сбера» всегда находится потребность клиентов и сотрудников, а технологии ИИ должны использоваться для улучшения клиентского опыта.
  • «Сбер» принимает во внимание и ответственно относится ко всем опасениям, которые возникают в связи с применением технологий ИИ.

Принцип № 5. «Непредвзятый ИИ» (Fair AI)

  • Технологии ИИ применяются «Сбером» справедливо и объективно на равных для всех условиях.
  • «Сбер» стремится к тому, чтобы технологии ИИ приносили пользу для развития человечества.

Для реализации данных принципов создана рабочая группа по этике разработки и применения технологий ИИ, которая рассматривает спорные этические вопросы, связанные с разработкой, применением ИИ, способствует формированию корпоративной этики в сфере ИИ среди сотрудников, отвечает за реализацию принципов, проводит экспертизу рисков применения технологий ИИ, осуществляет мониторинг эффективности реализации принципов и их восприятия в обществе.


Теги: Искусственный интеллект Сбер