Принципы этики искусственного интеллекта Сбера

Зачем нужны принципы этики искусственного интеллекта (ИИ)

ИИ меняет нашу жизнь

Сбер активно использует, разрабатывает и внедряет ИИ-технологии, которые завоевали доверие со стороны специалистов и клиентов. На сегодняшний день ИИ уже зарекомендовал себя как зрелая промышленная технология, которая помогает решать сложные профессиональные задачи в самых разных сферах.  

Суперкомпьютер Кристофари. Основное предназначение — обучение нейросетей

Заслужить доверие

Мы верим, что ИИ меняет жизнь людей к лучшему. При этом мы осознаём, что ИИ как технология несёт с собой и ряд вызовов и угроз. Среди них — риск выхода систем из-под контроля и причинение вреда человеку и обществу, риск использования ИИ для неправомерных целей.

Принципы этики использования ИИ — это ответ на данные вызовы.

Наша цель — использовать только такие системы и технологии, которые пользуются доверием наших клиентов.

Цифровой двойник телеведущей на основе технологий искусственного интеллекта

Принципы этики ИИ

Secure AI. Контролируемость и управляемость систем ИИ

Разработка и применение технологий ИИ в Сбере являются безопасными, управляемыми и контролируемыми в максимально возможной степени. Сбер учитывает возможные риски, связанные с безопасностью технологий ИИ, и не допускает их выхода из-под контроля или причинения системой ИИ вреда человеку. Внедрение ИИ в Сбере никогда не является самоцелью, а применяемые технологии должны пользоваться доверием клиентов, сотрудников и общества.

Explainable AI. Прозрачность и предсказуемость функционирования

Сбер несет ответственность за применение систем ИИ в своей деятельности и стремится обеспечивать максимальную прозрачность, внутренний контроль и предсказуемость процесса и результатов их работы. Технологии ИИ применяются Сбером с соблюдением законодательства, в том числе требований конфиденциальности, и с уважением к частной жизни человека, а также к коммерческой тайне. Системы ИИ никогда не используются для незаконной обработки персональной информации граждан или информации корпоративных клиентов Сбера.

Reliable AI. Стабильность и надежность систем ИИ

Сбер обеспечивает стабильность и надежность функционирования систем ИИ и необходимый уровень технического оснащения, создает условия наибольшего благоприятствования для разработки и внедрения надежных систем ИИ в Сбере. Сбер реализует высочайший уровень гарантий всех прав и свобод человека при применении ИИ, поддерживая применение технологий ИИ исключительно на законных основаниях.

Responsible AI. Ответственное применение ИИ

При внедрении ИИ в центре внимания Сбера всегда находится потребность клиентов и сотрудников, а технологии ИИ должны использоваться для улучшения клиентского опыта. Сбер принимает во внимание и ответственно относится ко всем опасениям, которые возникают в связи с применением технологий ИИ.

Fair AI. Непредвзятый ИИ

Технологии ИИ применяются Сбером справедливо и объективно на равных для всех условиях. Сбер стремится к тому, чтобы технологии ИИ приносили пользу для развития человечества.

Данное изложение принципов — не финальное. Мы сделали только первый шаг в поиске точного и взвешенного подхода к этике ИИ.

Как мы реализуем принципы этики ИИ

Для реализации принципов этики ИИ в Сбере создана специальная рабочая группа в рамках Комитета ESG. Она стала первым в России специальным органом для спорных этических вопросов ИИ. 

Задачи группы: 

  1. Отвечать за реализацию применения принципов ИИ в Сбере.
  2. Проводить экспертизу рисков применения технологий ИИ в работе Сбера и оценку последствий их внедрения.
  3. Осуществлять мониторинг эффективности реализации принципов и их восприятия в обществе.