Современная электроника №6/2022

ИНЖЕНЕРНЫЕ РЕШЕНИЯ 27 WWW.SOEL.RU СОВРЕМЕННАЯ ЭЛЕКТРОНИКА ◆ № 6 2022 можно оставить систему, например, систему принятия решений, в под- чинении ИИ, ведь недостаточно обу- ченный механизм способен выдавать ошибки за счёт непонимания получен- ного результата вследствие наруше- ния данных. Системам искусственно- го интеллекта можно передать решения тех или иных бизнес-процессов, кото- рые требуют анализа большого количе- ства заранее известных факторов, при помощи которых система сможет ана- лизировать решения. Анализ проблемы в оборонной промышленности Системы ИИ в оборонной промыш- ленности способны принести как мас- су пользы, так и большие потери за счёт ошибок в интерпретации данных. Если даже человеку в экстремальной ситуа- ции порой сложно применять принцип «свой-чужой», а решение зачастую при- ходит благодаря неожиданнымфакто- рам, таким как жесты, мимика, речь или внешний вид, то ИИ и подавно не спра- вится с подобной задачей сразу. Кроме того, следует учитывать, что летальное оружие с применением технологий ИИ может неправильно интерпретировать заранее изученные данные и атаковать гражданских, что не позволяет полно- стью довериться подобным системам в боевом режиме. Однако, несмотря на все риски, с точки зрения человече- ской этики спасти жизнь рядового, не дав ему погибнуть на поле боя, за счёт применения беспилотников, анализи- рующих ситуацию на основе холодно- го расчёта, гораздо более приемлемый вариант. Готово ли общество к принятию этических решений с помощью ИИ? Современные технологии в области ИИ являются примерами тенденции к повышению уровня сложности и авто- номии в самых разных процессах [6]. Уже давно существуют опасения по поводу этики ИИ, которые обозрева- ются и обсуждаются в различных тру- дах и работах, включая современную художественную литературу и иссле- дования [7, 8]. Доверие касается вопросов в области компетенции человеческого познания. Также доверие касается и задач, кото- рые человек может выполнить само- стоятельно. Человек делегирует задачи, если у него нет желания их выполнять или он неспособен приступить к их выполнению и решить их самостоя- тельно. В этом случае человек может положиться на общепринятое мнение или на авторитетное лицо [9]. Вопросы, рассматриваемые в статье, поднимались до этого в исследовани- ях [10], где авторы утверждали, что эти- ческие рассуждения и принятие этиче- ских решений различны: первое может быть достигнуто людьми, а второе (на сегодняшний день) едва ли может быть выполнено передовыми машинами. Формально в работе иностранных кол- лег [10] изучаются эти два понятия, но мы (люди) воспринимаем это различие интуитивно. Учитывая современные технологии и наличие чёткой грани- цы между этическими способностями людей и ИИ, встаёт вопрос, зачем нам их сравнивать? На данный вопрос есть ответ: в некоторых простых сценари- ях алгоритма может быть достаточно для достижения почти (если не точно) одинаковых результатов между сторо- ной этических рассуждений и челове- ком, принимающим решения исходя из морали. Также важным принципом этиче- ского принятия решений является вер- ность. Верность касается ответствен- ности человека к самому себе: быть верным и правдивым в своих отноше- ниях с другими. Это также включает в себя выполнение обещаний, выпол- нение взятых на себя обязательств и надёжность [11]. Современные исследования [12] показывают, что когда людей просят оценить этические решения человека или водителя ИИ, люди не отдают одно- значного предпочтения ни тому, ни другому; этот нулевой результат одно- роден по странам. Однако когда спро- сили об их явном мнении, следует ли разрешать водителю принимать этиче- ские решения на дороге, испытуемые высказались более решительно против автомобилей с искусственным интел- лектом. Кроме того, мы используем структурную оценку, чтобы показать, что несоответствие между этими дву- мя результатами вызвано комбинаци- ей двух элементов: люди считают, что общество не хочет, чтобы ИИ прини- мал этические решения, и оправдывают свои убеждения об обществе (общепри- нятые или нет), когда их спрашивают об этом. Вывод На текущий момент не может быть однозначно трактован вопрос дове- рия к ИИ и его этичности, споры об этом могут растянуться на весь жиз- ненный цикл этой технологии, но нельзя отрицать важность влияния подобных систем на развитие пони- мания глобальных процессов за счёт считывания и обучения машин чело- веческим моральным и этическим действиям в повседневных ситуаци- ях. При помощи технологий можно быстрее анализировать полученные результаты, искусственный интел- лект позволит обработать множество медицинских исследований и прове- сти среди них метаанализ для выяв- ления или же опровержения законо- мерностей. Литература 1. Studie: Burgerinnen und Burger haben wenig Vertrauen in kunstliche Intelligenz // URL: https://home.kpmg/de/de/home/ themen/2021/05/studie-buergerinnen- und-buerger-haben-wenig-vertrauen-in- ki.html. 2. Дашков А.А., Нестерова Ю.О. Построе- ние доверия при использовании искус- ственного интеллекта // E-Management. 2021. Т. 4. № 2. С. 28–36. 3. Next Stop: “Trolley Problem” // URL: https:// www.merriam-webster.com/words-at-play/ trolley-problem-moral-philosophy-ethics. 4. Moral Machine // URL: https://www. moralmachine.net/hl/ru. 5. Синицин С.А. Искусственный интеллект в координатах права // URL: https://izak. ru/img_content/events/iskusstvennyj- intellekt-v-koordinatah-prava.pdf. 6. Pratt G.A. Is a cambrian explosion coming for robotics? // Journal of Economic Perspectives, 29 (3) (2015), pp. 51–60. 7. Wiener N. God and Golem, Inc: A Comment on Certain Points where Cybernetics Impinges on Religion vol. 42, MIT press (1964). 8. McCarthy J., Hayes P.J. Some philosophical problems from the standpoint of artificial intelligence Readings in artificial intelligence, Elsevier (1981), pp. 431–450. 9. Большой психологический словарь / под ред. Б.Г. Мещерякова, В.П. Зинченко. М.: Прайм-ЕВРОЗНАК, 2003. 632 с. 10. McDermott D. What matters to a machine? Machine ethics (2011), pp. 88–114. 11. Bersoff D., Koeppl P. The relation between ethical codes and moral principles. Ethics and Behavior 3 (3 & 4): 345–357 (1993). 12. Caro-Burnett J., Kaneko S. Is Society Ready for AI Ethical Decision Making? Lessons from a Study on Autonomous Cars. Journal of Behavioral and Experimental Economics, v. 98, Elsevier 2022. .. .. ..