Современная электроника №6/2022

ИНЖЕНЕРНЫЕ РЕШЕНИЯ 26 WWW.SOEL.RU СОВРЕМЕННАЯ ЭЛЕКТРОНИКА ◆ № 6 2022 Доверие к искуственному интеллекту и факторы риска его применения в различных сферах жизни Стремительное развитие искусственного интеллекта (далее – ИИ) обусловило его широкое применение во всём мире, однако феномен искусственного интеллекта на данный момент недостаточно изучен, что подтверждается малым количеством исследований, проведённых в этой сфере, по причине её новизны. Данная работа призвана исследовать вопрос доверия к искусственному интеллекту, рассмотреть выделенные на сегодня факторы, на которые можно опираться при изучении данного вопроса, а также обсудить вопросы внедрения искусственного интеллекта в такие сферы, как повседневное использование, бизнес и военные структуры. Роман Болбаков, Михаил Коваленко, Антонио-Кристи Исаев (РТУ МИРЭА) Введение Исследование берёт своё начало в работе «Доверие в искусственном интеллекте» [1], собранной на основе изучения отношения населения пяти стран (США, Канады, Германии, Велико- британии и Австралии), в котором при- няло участие 6054 человека, к ИИ. Выво- ды оказались достаточно интересными: бо ′ льшая часть опрошенных (62%) слы- шали о существовании технологии ИИ, однако мало понимают, как именно она поможет в повседневной жизни. Кроме того, 81% респондентов ожидают, что ИИ будет регулироваться на законода- тельном уровне и что должен существо- вать новый независимый регулятор ИИ. Выводы, полученные данным иссле- дованием, подкрепляются также и основными тезисами из многочислен- ных работ по изучению этого вопро- са, например, тезисы статьи Дашкова Андрея Александровича [2] о факторах, которые человечеству и государству необходимо принимать во внимание при решении столь трудной дилеммы, как изучение доверия и этичности ИИ. Видите ли, в отличие от заранее запро- граммированных сценариев, ИИ спосо- бен обучаться и делать выводы, которые человеком могут трактоваться двояко (примеры будут рассмотрены в статье), в конце концов, интеллект – это каче- ство психики, которое характеризует- ся способностью приспосабливаться к различным ситуациям, способностью к обучению и запоминанию информа- ции и пониманию абстрактных кон- цепций, которым нам ещё предстоит обучить машины, а что говорить о бес- конечных научно-фантастических сце- нариях развития ИИ! Можно также упомянуть о знамени- тых законах робототехники Айзека Азимова, которые можно использовать и в применении ИИ. На их основе пред- лагается рассмотреть некоторые вари- анты планирования подхода к разра- ботке и обучению ИИ. Анализ проблемы в гражданской сфере Рассмотрим пример работы с искус- ственным интеллектом на примере известной компании Tesla и их раз- работок в сфере управления транс- порта на основе компьютерного зре- ния. С точки зрения законодательства подобное решение является лишь достаточно умной системой удержа- ния автомобиля на полосе, однако как западные, так и отечественные разра- ботки гражданских беспилотников в лице Яндекса стремятся создать доста- точно мощный ИИ для решения задачи передвижения по дорогам общего поль- зования. В таких ситуациях стоит учи- тывать внештатное поведение, которое в состоянии обработать человек, одна- ко подобные вопросы вводят ИИ и его разработчиков в ступор выбора вариан- тов действия. В ход вступают извечные дилеммы, такие как дилемма вагонетки [3] в слегка изменённомформате. Перед водителем резко появляется выбор пре- пятствия: пешеход или бетонное ограж- дение, учитывая, что скорость автомо- биля достаточно высока для полной остановки и, скорее всего, приведёт к неминуемой гибели одного из участни- ков дилеммы. Этим вопросом задались и создатели ресурса «Moral Machine» [4], который предоставляет 13 вариан- тов выбора различных имитирован- ных ситуаций. В ходе исследования результатов выбора было рассмотре- но более 11 млн возможных сценари- ев поведения, на основании которых и предлагается обучение ИИ для понима- ния необходимого выбора. Также при разработке подобной системы стоит учитывать результаты краш-тестов на различных скоростях для понимания возможных повреждений самим ИИ в ходе решения подобного вопроса. Не стоит забывать и о правовом аспекте подобных беспилотников. Прецедентом на данный момент стало поведение машины Tesla, которая хоть и остановилась на требование сотруд- ника полиции, однако, не дождавшись его, скрылась с места остановки. Этот эпизод считается феноменальным по причине того, что закону неизвестно, что делать с искусственным интеллек- том, который, по сути, нарушил пра- вила. Если рассматривать вопрос кон- кретней, кто должен понести наказание за превышение скорости: автомобиль (что в текущий момент звучит как бес- смыслица), его владелец, не ответствен- ный за поведение беспилотника, или же компания, создавшая его, не предусмо- тревшая подобный сценарий? Право- вым ведомствам предстоит серьёзная работа по урегулированию всех аспек- тов подобной технологии [5]. Анализ вопроса в бизнес-сфере Рассматривая возможности ИИ, невозможно задвигать его примене- ние бизнесом на задний план. Начи- ная от задач, с которыми мы уже более или менее научились справляться, таких как анализ больших данных и введение систем распознавания речи и текста, заканчивая задачами, которые в перспективе могли бы лишить мно- жество людей их рабочих мест, что уже является вопросом этичности ИИ. Несмотря на полезность ИИ, не стоит забывать, что технологии подвержены кибератакам или нарушению данных, способных привести к неминуемым последствиям, например, ошибкам при анализе крови, ведущим к неправиль- ному лечению пациентов. Говоря о бизнесе, стоит понимать, что на текущем этапе развития невоз-