45
  • Книга
  • 4 мин

Этика искусственного интеллекта: Кейсы и варианты решения этических проблем

Шредер Дорис , Родригес Ровена , Шталь Бернд Карстен

Издательский дом Высшей школы экономики, 2024

image
  • ВКонтакте

  • Telegram

  • Электронная почта

  • Скопировать ссылку

  • Книга
  • 4 мин

Этика искусственного интеллекта: Кейсы и варианты решения этических проблем

Шредер Дорис , Родригес Ровена , Шталь Бернд Карстен

Издательский дом Высшей школы экономики, 2024

АННОТАЦИЯ. Принято считать, что потенциальные выгоды от применения искусственного интеллекта (ИИ) велики: от операционных улучшений, таких как снижение числа человеческих ошибок, до использования роботов в опасных ситуациях. В то же время все понимают, что применение ИИ сопряжено со множеством этических проблем — от предвзятости в работе алгоритмов и цифрового разрыва до проблем здоровья и безопасности. В книге рассматриваются реальные кейсы этических проблем, которые ставит перед нами искусственный интеллект, и варианты их решения. Разбор кейсов — один из лучших способов изучения этических дилемм и понимания связанных с ними сложностей и точек зрения заинтересованных в работе ИИ сторон. С учетом всеобъемлющего характера этики искусственного интеллекта в академических, политических, философских и медийных дебатах книга будет полезна широкой аудитории, включая исследователей, представляющих самые различные дисциплины, а также политиков, сотрудников неправительственных организаций, преподавателей и образованную общественность.

Фрагмент из книги
Этические вызовы, которые бросает искусственный интеллект (ИИ), — одна из главных тем XXI века. Принято считать, что потенциальные выгоды от применения ИИ велики: от операционных улучшений, таких как снижение числа человеческих ошибок (например, при постановке медицинских диагнозов), до использования роботов в опасных ситуациях (например, для обеспечения безопасности ядерной электростанции после аварии). В то же время ИИ ставит множество этических проблем — от предвзятости в работе алгоритмов и цифрового разрыва до проблем здоровья и безопасности. Сфера ИИ превратилась в широкомасштабный проект, в который вовлечены самые разные заинтересованные лица. Однако в этике ИИ нет ничего нового. Концепции ИИ почти 70 лет, и озабоченность его развитием с точки зрения этики высказывалась уже в середине XX века. Сейчас эти дебаты активизировались благодаря более широкому интересу к применению и воздействию усовершенствованных алгоритмов, большей доступности вычислительных мощностей и растущему объему данных, которые могут использоваться для анализа. Эти технические достижения благоприятствовали развитию определенных типов ИИ, в особенности машинного обучения, одной из популярных форм которого, в свою очередь, является глубокое обучение. Успех этих подходов к ИИ привел к быстрому расширению сферы его применения, что нередко влекло за собой этически неоднозначные последствия, например, несправедливое или незаконное господство, дискриминацию и вмешательство в политику. С расширением сферы применения ИИ его этика выходит далеко за пределы академической науки. Так, «Римская петиция об этике ИИ», выпущенная в феврале 2020 года, связывает Ватикан с Продовольственной и сельскохозяйственной организацией ООН (ФАО), Microsoft, IBM и итальянским Министерством технологических инноваций и цифровизации.
Содержание

Благодарности – 10 

Глава 1. Этика искуственного интеллекта: введение – 12

Несправедливая и незаконная дискриминация (глава 2) – 16 

Неприкосновенность частной жизни (глава 3) – 17 

Надзорный капитализм (глава 4) – 17 

Манипуляция (глава 5) – 18 

Право на жизнь, свободу и личную безопасность (глава 6) – 18 

Человеческое достоинство (глава 7) – 19 

«ИИ во благо» и Цели ООН в области устойчивого развития (глава 8) – 19 

Библиография – 21 

Глава 2. Несправедливая и незаконная дискриминация – 24 

2.1. Введение – 24 

2.2. Кейсы дискриминации, которой способствовал ИИ – 25 

2.2.1. Кейс 1: Предубежденность в инструментах найма на работу – 25 

2.2.2. Кейс 2: Дискриминирующее использование ИИ в правоохранительной системе и для профилактических полицейских мер – 28 

2.2.3. Кейс 3: Дискриминация на основе цвета кожи – 32 

2.3. Этические вопросы, связанные с дискриминацией, которой способствуют ИИ – 33 

2.4. Меры по борьбе с несправедливой/незаконной дискриминацией – 38 

2.4.1. Оценка воздействия ИИ – 40 

2.4.2. Этика, заложенная в дизайн – 42 

2.5. Выводы – 44 

Библиография – 45 

Глава 3. Неприкосновенность частной жизни – 50 

3.1. Введение – 50 

3.2. Кейсы нарушения неприкосновенности частной жизни по вине ИИ – 53 

3.2.1. Кейс 1: Использование персональных данных авторитарными режимами – 53 

3.2.2. Кейс 2: Неприкосновенность генетических данных – 55 

3.2.3. Кейс 3: Биометрический надзор – 59 

3.3. Защита данных и неприкосновенность частной жизни – 61 

3.4. Меры по борьбе с угрозами неприкосновенности частной жизни, порождаемыми ИИ – 64 

3.5. Выводы – 67 

Библиография – 70 

Глава 4. Надзорный капитализм – 74 

4.1. Введение – 74 

4.2. Кейсы надзорного капитализма, использующего ИИ – 76 

4.2.1. Кейс 1: Присвоение данных – 76 

4.2.2. Кейс 2: Монетизация данных о здоровье – 77 

4.2.3. Кейс 3: Нечестные коммерческие практики – 79 

4.3. Этические вопросы надзорного капитализма – 80 

4.4. Меры противодействия надзорному капитализму – 83 

4.4.1. Антимонопольное законодательство – 84 

4.4.2. Доступ и шеринг данных – 86 

4.4.3. Укрепление права собственности потребителей/индивидов на их данные – 87 

4.5. Выводы – 89 

Делить компании, опираясь на антимонопольное законодательство, сложно – 89 

Являются ли «работники крупных технологических компаний одним из главных сдерживающих факторов роста ее власти»? – 91 

Библиография – 92 

Глава 5. Манипуляция – 98 

5.1. Введение – 98 

5.2. Кейсы манипулирования при помощи ИИ – 99 

5.2.1. Кейс 1: Манипуляции на выборах – 99 

5.2.2. Кейс 2: Продвижение продаж в «моменты уязвимости для внушения» – 100

5.3. Этика манипуляции – 101 

5.4. Меры для борьбы с манипуляциями – 106 

5.5. Выводы – 109 

Библиография – 110 

Глава 6. Право на жизнь, свободу и личную безопасность – 113 

6.1. Введение – 113

6.2. Кейсы, в которых ИИ негативно влиял на право на жизнь,

свободу и личную безопасность – 116 

6.2.1. Кейс 1: Смертельная авария с участием беспилотного автомобиля – 116 

6.2.2. Кейс 2: Уязвимости в системе управления умными домами – 119 

6.2.3. Кейс 3: Состязательные атаки в медицинской диагностике – 121 

6.3. Этические вопросы – 122 

6.3.1. Безопасность человека – 122 

6.3.2. Неприкосновенность частной жизни – 123 

6.3.3. Ответственность и подотчетность – 124 

6.4. Меры по защите жизни, свободы и безопасности людей – 127 

6.4.1. Внедрение и укрепление режимов ответственности – 127 

6.4.2. Управление качеством систем ИИ – 130 

6.4.3. Состязательная устойчивость – 132 

6.5. Выводы – 132 

Библиография – 134 

Глава 7. Человеческое достоинство – 140

7.1. Введение – 140 

7.2. Кейсы с потенциальным конфликтом между ИИ и человеческим достоинством – 143 

7.2.1. Кейс 1: Несправедливое увольнение – 143

7.2.2. Кейс 2: Секс-роботы – 147 

7.2.3. Кейс 3: Роботы-сиделки – 151 

7.3. Этические вопросы, касающиеся ИИ и достоинства – 154 

7.4. Выводы – 161 

Библиография – 162

Глава 8. «Искуственный интеллект во благо» и Цели устойчивого развития – 167 

8.1. Введение – 167 

8.2. Приносит ли «ИИ во благо» благо? Кейсы – 170 

8.2.1. Кейс 1: Сезонное прогнозирование климата в условиях ограниченных ресурсов – 171 

8.2.2. Кейс 2: «Вертолетные исследования» – 172 

8.3. Этические вопросы, возникающие в связи с «ИИ во благо» и ЦУР – 175 

8.3.1. Пустыня данных или неравномерное распределение доступности данных – 176 

8.3.2. Двойные стандарты – 177 

8.3.3. Невнимание к социальным составляющим проблем, которые призваны решить ЦУР – 178 

8.3.4. Слон в комнате: цифровой разрыв и нехватка талантов для ИИ – 179 

8.3.5. Нерешенные важные проблемы, в которых ИИ и ЦУР вступают в конфликт – 181

8.4. Выводы – 182 

Библиография – 183 

Глава 9. Этика искуственного интеллекта: заключение – 188 

Библиография – 196

Авторы

image

Шредер Дорис

Журналистка и писательница.

Родригес Ровена

Шталь Бернд Карстен

Цитирование

Выходные данные

Год издания

2024

Серия

Культурология

Язык

Русский

Объем

200

Размер

223x135x15 мм

Тираж

600

Издательство

Издательский дом Высшей школы экономики

ISBN

978-5-7598-2981-2

Город

Санкт-Петербург

  • ВКонтакте

  • Telegram

  • Электронная почта

  • Скопировать ссылку