В IEEE задали этические ориентиры для разработчиков искусственного интеллекта
В IEEE задали этические ориентиры для разработчиков искусственного интеллекта

Все, кто вовлечен в создание интеллектуальных систем, должны отвечать за результаты своей работы

Источник: IEEE


14:46 04.01.2018  (обновлено: 11:27 09.01.2018)   |  Джордж Нотт |  Computerworld, Австралия

Рубрика Индустрия |   1074 прочтения



В профессиональной ассоциации подчеркивают: цель создания нового руководства заключается в том, чтобы помочь создателям автономных и интеллектуальных систем избежать как боязни технологий, так и слепого любования ими

 

С учетом того, что автономные и интеллектуальные системы получают все большее распространение, важно, чтобы стоящие за ними разработчики сумели притормозить на мгновение и задуматься о связанных с ними этических вопросах.

Такую точку зрения в Institute of Electrical and Electronics Engineers высказала, опубликовав вторую версию документа «Ethically Aligned Design», направленного на «сохранение ориентации таких систем на человека».

«Системы эти должны вести себя так, чтобы это приносило пользу людям, выходя за рамки достижения функциональных целей и решения технических проблем, – говорится в документе. – Это позволит повысить уровень доверия между людьми и техническими средствами, что будет способствовать плодотворному использованию передовых технологий в нашей повседневной жизни».

Документ «Ethically Aligned Design: A Vision for Prioritising Human Well-being with Autonomous and Intelligent Systems» («Этически выверенное проектирование: приоритетность повышения благосостояния человека на основе использования автономных и интеллектуальных систем») появился по итогам обсуждения, в котором на протяжении 2017 года принимали участие более 250 экспертов из академических, отраслевых и правительственных кругов. Оно охватывало целый ряд взаимосвязанных тем, включая прозрачность автономных систем, конфиденциальность данных, алгоритмические тенденции, смешанную реальность и «стимулирование к соблюдению этических правил» – комплекс явных и скрытых манипуляций, проводимых интеллектуальными системами для воздействия на поведение или эмоции пользователя.

В подготовке документа – он открыт для широкого обсуждения до марта – участвовал, в том числе профессор, кафедры программного обеспечения Университета Сиднея Рафаэль Кальво.

«Последние достижения в области искусственного интеллекта стали превращать вещи, которые когда-то казались научной фантастикой, во вполне правдоподобную реальность, – указал он. – Однако в цифровом будущем определение того, что действительно 'правильно' и 'хорошо', становится сложным вопросом, лежащим на пересечении технологий и этики. Воздевание рук к небесам и причитания, что 'это слишком сложно', в то время, как мы продолжаем сидеть на месте и наблюдать, как технологии уносят нас в не поддающийся контролю водоворот будущего, вместо того, чтобы создавать его самим, вряд ли можно считать жизнеспособным вариантом. Надеюсь, что наша публикация действительно изменит правила игры и поможет совершить первый шаг в нужном направлении – шаг, которого зачастую приходится ждать очень долго. И мы сумеем разрушить защитную стену специализации, позволявшую инженерам отделять себя от социальных последствий разработанных ими технологий».

По словам Кальво, публикация документа означает, что все, кто вовлечен в создание интеллектуальных систем, должны отвечать за результаты своей работы.

«Нужно, чтобы будущие технические лидеры начали задумываться и брать на себя ответственность за нетехнические последствия для простых граждан с точки зрения защиты законности и их права на частную жизнь, физического и психического здоровья, скрытых предубеждений и моральных устоев, – подчеркнул он. – Это станет позитивным шагом к тому, чтобы создаваемые нами технологии открывали дополнительные преимущества и благотворно отражались на дальнейшем развитии человечества и нашей планеты».

В IEEE особо отметили, что документ «Ethically Aligned Design» не претендует на роль кодекса поведения или профессиональной этики.

Цель его публикации заключается в том, чтобы избежать как боязни автономных и интеллектуальных технологий, так и слепого любования ими, предоставить инженерам возможности для обучения и повышения уровня своего образования, а также расширить их полномочия для приоритетного рассмотрения этических вопросов.

«Мы убеждены в том, что приведение технологий в соответствие с этическими ценностями поможет продвигать инновации и новые инструменты, уменьшая опасения, связанные с их использованием», – говорится в заявлении IEEE.


Теги: Искусственный интеллект Цифровая экономика IEEE

На ту же тему: