Предупрежден-значит вооружен: правовые и этические вопросы и риски применения ИИ | Umbrella IT

Предупрежден-значит вооружен: правовые и этические вопросы и риски применения ИИ

 

Внедрение автономной электроники в повседневную действительность не всегда протекает гладко.

Очередная новость, которая снова вызвала всплеск дискуссий вокруг ИИ технологий и их физического воплощения в реальную жизнь: в американском городе Темпе, Аризона, автономный автомобиль компании Uber сбил пешехода. В результате удара женщина скончалась.

Как исключить подобные проблемы в будущем? Какие следует делать выводы? Какие риски необходимо предусматривать тем, кто намерен в своих мобильных и веб приложениях в полной мере использовать потенциал новых технологий?

ИИ, как и многие другие инновационные технологии, таит в себе множество возможностей и раскрывает широкие перспективы, о которых мы уже не раз рассказывали. Но о подводных камнях и возможных неблагоприятных последствиях неправильного применения лучше узнать заранее. Как говорится, praemonitus – praemunitus.

Разделим проблемы, которые связаны с ИИ, на две большие группы:

  • внутренние

Баги, сбои, ошибки, в результате которых системы ведут себя самым неожиданным образом, порой удивляя даже создателей.

  • внешние

Этические и правовые вопросы, использование не по назначению или во вред и прочие моменты, которые возникают при взаимодействии искусственного интеллекта с существующим миром.

 

Скандал в благородном семействе ИИ

Недетский лепет

where artificial intelligence can be used

Боточат

В 2017 г. Facebook создал двух чат-ботов, предназначенных для того, чтобы вести переговоры, помогая людям оформлять заказы, назначать встречи и т.д. В какой-то момент случилось то, чего не ожидали разработчики: Боб и Элис начали общаться между собой на созданном ими же искусственном языке. Ботам изначально не было дано указание общаться на понятном для людей языке, и они просто выбрали свой собственный путь. В результате отсутствие одного ограничения привело к непониманию между создателями и их детищами, причем в прямом смысле этого слова.

 

Закрытая вечеринка Алексы

В квартире жителя Гамбурга умная колонка самопроизвольно устроила вечеринку посреди ночи. Если быть точнее, искусственный интеллект начал на полной громкости проигрывать плейлист хозяина. Соседей эта идея не воодушевила, и они вызвали полицию. В результате, дверь была выломана, спонтанная вечеринка прервана, а компания Amazon принесла извинения хозяину с предложением оплатить штраф и счет за новую дверь.

 

Игры, в которые играет ИИ

artificial intelligence use cases

Game Over!

Игровой искусственный интеллект в игре Elite Dangerous начал разрабатывать супероружие, которое не было изначально заложено создателями, и охотиться на корабли игроков. Случилось все это после развертывания обновления The Engineers (2.1). При этом у игроков не было шансов противостоять новому мощному оружию, и разработчикам пришлось вмешаться, чтобы спасти ситуацию и корабли игроков-людей.

 

Как важно быть беспристрастным

Исследователь медиа-лаборатории МТИ (Массачусетского технологического института) проанализировала работу трех коммерческих программ для идентификации лиц. Для этого Джой Буоламвини (Joy Buolamwini) собрала 1200 фотографий различных людей. Результат показал, что нейросети отлично справляются с распознаванием лиц светлокожих мужчин, в то время как на фотографиях темнокожих женщин было допущено на 34% больше ошибок.

Вывод: чтобы исключить предвзятость в оценках, машины нужно “учить” на большом количестве самых разнообразных примеров.

 

“Открой дверь в отсек модуля, HAL”

artificial intelligence neural network

Игра “Камень, ножницы, бумага” с Софией

Нельзя не упомянуть в этой связи и о Софии (человекоподобном роботе). В марте 2016 г. она вогнала в краску собственного создателя тем, что невозмутимо дала положительный ответ на его вопрос о том, хочет ли она уничтожить человечество. Справедливости ради, отметим, что к осени 2017 г. ее взгляды смягчились. В одном из интервью София уже говорила о том, что наполнена человеческой мудростью с самыми чистыми альтруистическими намерениями и просила воспринимать ее именно так.

Не ошибается тот, кто ничего не делает. Но тот, кто осознает ответственность и серьезность последствий, будет учитывать ошибки других и исключать их на как можно более раннем этапе. Разрабатывая ИИ приложение для использования в медицине, коммерции, маркетинге или рекламе, всегда можно извлечь урок из опыта в других областях, пусть даже и не совсем родственных.

 

Искусственный интеллект: испытание реальностью

Игра на правовом поле

Технологии искусственного интеллекта постепенно проникают в самые разнообразные сферы деятельности человека. Соответственно, появляются новые вопросы, например, относительно того, как именно следует трактовать действия ИИ с точки зрения правовых норм.

Обратитесь, например, к собственному опыту вождения. Наверняка вам приходилось сталкиваться с ситуациями, когда водителю нужно было принять молниеносное и при этом не всегда однозначное решение. Подвергнуть риску собственных пассажиров или спасти перебегающего дорогу ребенка? Какой алгоритм выберет в таком случае электроника? Даже если не учитывать морально-этическую составляющую: по-прежнему неясно, кто несет ответственность за последствия аварии с участием беспилотного автомобиля. Разработчик кода, производитель или владелец автомобиля?

А если нарушение правил дорожного движения могло бы предотвратить аварию, но электроника действовала четко в соответствии с нормами, будет ли беспилотный автомобиль виноват в таком случае?

Поскольку сейчас мы находимся на начальном этапе прямого взаимодействия с новыми технологиями, общество не может похвастаться большим количеством готовых решений для регулирования подобных ситуаций. Поэтому правовые аспекты еще не раз станут предметом обсуждения. Вам кажется, что все это проблемы далекого будущего?

Вернемся к Софии: в октябре 2017 г. ей было предоставлено гражданство Саудовской Аравии. Первый робот в истории, получивший права гражданина, уже вписан в историю. Насколько правовой статус новой гражданки урегулирован законодательно? Должна ли она носить хиджаб и иметь мужчину-опекуна наравне с другими женщинами в этой стране? Вопросов возникает предостаточно уже сегодня.

 

Границы этики

Посмотрим на вопрос с предоставлением правового статуса с точки зрения морали. Как будет рассматриваться отключение робота, который является гражданином? Как относиться к чувствам машин: мы с удовольствием смеемся над их шутками, радуемся их победам, но готовы ли мы к тому, что машины могут страдать?

Допустима ли для машины свобода выбора?

Возможны ли дружеские или любовные отношения между человеком и роботом?

Как относиться к использованию роботов для проведения тестов?

Перечень можно продолжать очень долго. И какими бы фантастическими ни казались сейчас такие вопросы, задуматься о них стоит до того, как они станут реальностью.

1

 

Ветер перемен

Результаты многих аналитических исследований говорят о том, что в не столь далеком будущем роботы могут стать основными исполнителями во многих сферах. Это приведет к росту безработицы среди людей и существенным изменениям на рынке труда с точки зрения перераспределения актуальности различных профессий и специальных скилов.

Мы воспользовались сервисом Replaced by Robot!?, чтобы проверить, насколько велик риск замены iOS разработчиков роботами. Результат нас порадовал: шансы на то, что труд iOS разработчиков будет автоматизирован, составляют всего 4,2%. Мы продолжаем работать для вас!

what artificial intelligence be used for

С одной стороны, искусственный интеллект разрабатывается для того, чтобы облегчить труд человека. С другой стороны, согласитесь, перспектива лишиться работы не вызывает особой радости.

К тому же совсем непонятно: как и между кем будут распределяться средства, заработанные и сэкономленные машинами? И такие вопросы возникают не сегодня, а еще вчера.

2

Джулия Боссманн (Julia Bossmann), директор по вопросам стратегии, Fathom Computing, в своей статье Top 9 Ethical Issues in Artificial Intelligence (9 основных этических проблем искусственного интеллекта) пишет о том, что в 2014 г. приблизительно одинаковый доход был получен тремя крупнейшими компаниями в Детройте и тремя крупнейшими компаниями из Кремниевой долины. Разница, однако, заключается в том, что количество сотрудников в Кремниевой долине было в 10 раз меньше.

 

Мир спасет разумный подход

Вектор действия любой технологии зависит от поставленной цели. Искусственный интеллект не является исключением. Одним из основных рисков остается опасность использования достижений науки и техники со злым умыслом. И первыми, кто торопится предупредить о возможных разрушительных последствия, становятся именно те, кто знает процесс развития ИИ технологий изнутри.

В своем Открытом письме к конвенции организации объединенных наций об употреблении определённого вида оружия представители компаний, непосредственно занимающихся развитием технологий в области искусственного интеллекта и робототехники (116 специалистов из 26 стран во главе с Илоном Маском и Мустафой Сулейманом), предупреждают о том, что “технологии могут стать оружием террора, оружием, которое деспоты и террористы могут использовать против невинного населения. Нам нельзя медлить. Как только ящик Пандоры откроется, закрыть его будет практически невозможно”. Они призывают совместными усилиями защитить граждан и предотвратить масштабное использование смертоносного автономного оружия.

Такие обращения от лица тех, кто с ИИ на “ты”, лишь подтверждают то, что в использовании любой новой технологии необходим сбалансированный подход, точные специальные знания и осознание ответственности и возможных рисков.

Поэтому, задумываясь над созданием нового ИИ приложения, учитывайте ключевые моменты:

  • потенциал ИИ технологий высок и способен существенно расширить границы традиционных представлений о производстве, ведении бизнеса и многих других сферах, при этом он еще не до конца исследован и кто знает, какие новые открытия ожидают нас в будущем;
  • завышенные ожидания могут сыграть роль ингибитора, так как для внедрения любой новой технологии требуется определенное время и усилия;
  • технологии искусственного интеллекта несут в себе определенные риски, поэтому рекомендуется заранее изучить вопросы, которые могут возникнуть на пересечении различных сфер деятельности и регулирующих систем;
  • разработку ИИ приложений следует доверять опытным специалистам, которые будут работать над продуктом с позиции решения поставленных вами задач, учитывая одновременно собственный опыт работы.

 

 

 

 

Фото: Shutterstock.com


Ещё

  • Как внедрить блокчейн в существующий проект в области медицины: шаг за шагом в будущее
    Как внедрить блокчейн в существующий проект в области медицины: шаг за шагом в будущее
    С легкой руки Сатоши Накамото и благодаря первым результатам внедрения за пределами мира криптовалют, технология блокчейн надолго и прочно закрепила за собой место в топовых новостных заголовках. Медицина – одна из индустрий, которая всегда находится на пике современных технологий.   Блокчейн и новые возможности Возможные примеры использования технологии блокчейн в медицине: сбор и хранение данных …
  • Как создать приложение с использованием блокчейна
    Как создать приложение с использованием блокчейна
    Информация о блокчейне фрагментирована: сложность технологии, нехватка грамотных разработчиков, медийный ажиотаж и ошибочное отождествление с криптовалютами привели к формированию искаженного представления о блокчейне. Однако его развитие не стоит на месте: если еще несколько лет назад блокчейн-проекты, в которых была задействована наша команда, ограничивались разработкой приложений для финансового сектора (в частности, для работы с криптовалютами), то сегодня …
  • Криптовалюта не предел: перспективные направления разработки блокчейн-проектов
    Криптовалюта не предел: перспективные направления разработки блокчейн-проектов
      Как все новое и не до конца изученное, инновационные технологии порождают множество споров и самых невероятных прогнозов. Технология блокчейн не стала исключением. 2017 год, в течение которого о блокчейнах говорили много и неоднозначно, уже давно позади, но не все вопросы закрыты. Неоспоримо одно: возможности технологии выходят далеко за рамки финансовых вопросов. Безопасность, прозрачность, открытость, …