29 июля 2024

Справедливость и предвзятость к ИИ: изучение подходов к смягчению предубеждений и обеспечению справедливости в процессах принятия решений

Телекова Диана Студент, Нижегородский государственный педагогический университет имени Козьмы Минина Павлова Валерия Студент, Нижегородский государственный педагогический университет имени Козьмы Минина Поначугин Александр Доцент, к. э. н., Нижегородский государственный педагогический университет имени Козьмы Минина

Автором самого термина «Искусственный интеллект» (Artificial Intelligence) является Джон Маккарти, основоположник функционального программирования, который говорил: «Проблема состоит в том, что пока мы не можем в целом определить, какие вычислительные процедуры мы хотим называть интеллектуальными. Мы понимаем некоторые механизмы интеллекта и не понимаем остальные. Поэтому под интеллектом в пределах этой науки понимается только вычислительная составляющая способности достигать целей в мире» [10].

Технологии, лежащие в основе работы ИИ в современном представлении, мы используем каждый день, начиная от смартфонов, заканчивая сложными компьютерными системами, применяемые в медицине, образовании, автомобилестроении, политике. Человек сталкивается каждый день с искусственным интеллектом, не представляя, как он помогает ему даже в самых незначительных задачах: разблокировка телефонов с помощью Face ID, оплата картой в метро и супермаркетах с помощью улыбки, прослушивание любимой музыки с помощью станции «Яндекс Алиса». Начиная свой день, мы проверяем прогноз погоды, состояние дорог и на каком транспорте доехать до места работы или учебы. Если мы хотим посмотреть сериал или фильм, но не знаем какой, то искусственный интеллект уже создал индивидуальную подборку, основанную на наших предпочтениях. Без искусственного интеллекта это было бы невозможно. Однако, по данным РБК, почти треть (32%) россиян не доверяют технологиям искусственного интеллекта.

Как учится искусственный интеллект? Здесь используются алгоритмы для анализа данных, получения выводов или предсказаний в отношении чего-либо. Вместо того чтобы кодировать набор команд вручную, машину обучают и дают ей возможность научиться выполнять поставленную задачу самостоятельно.

Нейронные сети — это набор связанных единиц (нейронов) и нейронных связей (синапсов). Каждое соединение передаёт сигнал от одного нейрона к другому, как в мозге человека. Обычно нейроны и синапсы организованы в слои, чтобы обрабатывать информацию. Первый слой нейросети — это вход, который получает данные. Последний — выход, результат работы. Например, несколько категорий, к одной из которых мы просим отнести то, что было отправлено на вход. И между ними — скрытые слои, которые выполняют преобразование.

Нейронные сети – это математические модели, которые имитируют работу человеческого мозга, но они не являются им в буквальном смысле. Они состоят из множества связанных между собой узлов, которые обрабатывают информацию и учатся на основе входных данных. Эти сети способны выполнять задачи, такие как распознавание образов или классификация, с высокой степенью точности.

Нейросети — это лишь один из инструментов, созданных для работы ИИ. Они подражают человеческому мозгу, и используются для задач, распознавания образов или обучения на основе имеющихся данных.

Таким образом, искусственный интеллект составляет основу для комфортной человеческой жизни. Машина анализирует огромную базу данных и предоставляет ответ на интересующий нас запрос. Именно сейчас мы можем наблюдать, как активно развивается ИИ, и этим нужно пользоваться, а не препятствовать его развитию. Сейчас ИИ готов выполнить колоссальную работу за короткий срок и тем самым помогает сохранить один из важных ресурсов человека – время.

На сегодняшний день искусственный интеллект всё чаще применяется в такой сфере как медицина для диагностики различных заболеваний, прогнозирования исхода операций и даже для создания новых лекарств. Так, например, германская компания Biontech, которая была создана в 2008 г. Угуром Шахином, исследует рак с помощью ИИ. Одной из проблем борьбы с раковыми опухолями является сходство злокачественных и доброкачественных клеток, в результате - иммунной системе сложно понять, какие клетки нужно атаковать. Медики с помощью искусственного интеллекта ищут характерную разницу между здоровой и заражённой клеткой, а также генерируют молекулярный дизайн активных веществ для борьбы с опухолями.

Искусственный интеллект помогает учёным при разработке новых лекарств, например, антибиотиков. Искусственный интеллект проводит анализ больших объёмов данных о структуре, свойствах молекул, их соединений и выделяет наиболее эффективные комбинации.

В медицинском образовании искусственный интеллект помогает студентам применять свои знания на практике с виртуальными пациентами. Это позволяет больше практиковаться на ранних курсах и не допустить ошибок в работе с реальными пациентами.

Активно развивается ИИ в сфере образования. Цифровой мир - это огромный поток информации, переработать и проанализировать который человек не сможет, так пусть за него это делают технологии. Нейросети помогут справиться с рутиной преподавателей, проверки контрольных, курсовых, объемных домашних заданий. Умение выявлять разного рода ошибки при написании текста, решении тестов и математических уравнений является огромным открытием для сферы образования, а также полезным инструментом в руках преподавателя [9].

Сейчас в каждом доме можно встретить помощника «Алису» или «Марусю», которые могут ответить на любой запрос, интересующий человека. Ученики могут обратиться к ним во время решения сложных задач, поиска нужного материала или попросить голосового ассистента, чтобы тот пересказал литературное произведение или какое-нибудь историческое событие. Так, обучающий может заниматься сразу несколькими вещами: узнавать что-то новое и, например, одновременно развивать свой творческий потенциал.

Анализ данных в первую очередь идет с помощью изучения индивидуальных особенностей обучающегося, его знаний, способностей. Это, в первую очередь, помощь и для самого учителя. Выдав информацию об обучающемся, искусственный интеллект может помочь разработать банк тем и заданий, который важно повторить ученику, чтобы лучше усвоить программу. Здесь уже свою лепту вносит такая система как адаптивное обучение.

В таком случае, учитель экономит свой главный ресурс – время, а ученик улучшает свои знания, ведь учтены все его особенности. Одному учителю сложно уделять индивидуальное внимание целому классу, который состоит обычно не менее, чем из 25 человек.

Искусственный интеллект повышает вовлеченность учащегося, потому что благодаря нему учитель может делать каждый свой урок разнообразным и интересным. Для заинтересованности ученика и активизации его внимания учителю теперь не нужно затрачивать большое количество своего времени, следовательно, таких уроков будет больше.

Строительство - это очень сложный и долгий процесс, который должен быть продуман до мелочей. Ошибки в строительстве недопустимы. Искусственный интеллект поможет избежать и устранить их ещё на этапах планирования и прогнозирования.

Целесообразно использовать методы ИИ при прогнозировании закупок и поставок материально-технических ресурсов для строительства различного рода объектов. Огромное количество поставщиков используют свою систему регистрации товарно-материальных ценностей, свои артикулы, коды, наименования [8]. Для строительных организаций - это по-прежнему зона ручного труда.

Таким образом, искусственный интеллект применяется в разнообразных сферах человеческой деятельности.

Юридическая сила по отношению к искусственному интеллекту

14 октября 2019 г. Президент Российской Федерации утвердил указ «О развитии искусственного интеллекта в Российской Федерации». В соответствии с данным указом была разработана и принята Национальная стратегия развития искусственного интеллекта на период до 2030 г. (Стратегия - 2030), в которой определяются цели и основные задачи развития искусственного интеллекта в Российской Федерации и закрепляется общий подход: использование технологий искусственного интеллекта в отраслях экономики носит общий («сквозной») характер и способствует созданию условий для улучшения эффективности и формирования принципиально новых направлений деятельности хозяйствующих субъектов. [6]

В действующем законодательстве Российской Федерации отсутствует общий понятийный аппарат, применяемый к искусственному интеллекту. Однако в соответствии с экспериментальным федеральным законом от 24.04.2020 г. № 123-Ф3, под искусственным интеллектом понимается комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые, как минимум, с результатами интеллектуальной деятельности человека».

Понятие искусственного интеллекта, применяемое в экспериментальном режиме, не содержит конкретных юридических признаков, так как было выведено, прежде всего, из технического восприятия, что, на наш взгляд, является проблемой.

Отсутствие нормативного определения способствует возникновению ряда проблем, так как широкое толкование искусственного интеллекта порождает неограниченное и необдуманное использование и правоприменение данной технологии в разных отраслях.

Исходя из вышесказанного, закрепление нормативного определения в федеральном законе «Об информации, информационных технологиях и о защите прав» является необходимым, как и определение принципов использования искусственного интеллекта.

На данном этапе остаётся неурегулированным вопрос о правообладании на продукцию, произведенную с помощью ИИ, о степени и мерах ответственности человека за деятельность ИИ, о способах и уровне контроля, ограничениях при применении данных систем, о привлечении лиц, применяющих искусственный интеллект в целях, противоречащих законам Российской Федерации, к юридической ответственности [1].

Отрицательное влияние искусственного интеллекта на жизнь современного человека

ИИ не может заменить взаимодействие с настоящим человеком. Человеческий контакт очень важен для мотивации, вдохновения и укрепления социальных связей.

Например, искусственный интеллект не сможет никогда полностью заменять учителя в школе. Ребёнку всегда будет важно, чтобы ему давали обратную связь, мотивировали, оценивали. Без человеческого контакта ученик может потерять свою значимость в этом мире. Ведь учитель не только учит детей, но и воспитывает, даёт ему эмоциональную поддержку на протяжении долгого пути.

Применение ИИ может повлиять на увеличение безработицы в стране. Беспилотные транспортные средства, роботы в кафе, терминалы вместо кондукторов - сейчас данные работы выполняют люди, как правило, без высшей квалификации, но они могут быть заменены роботизированными системами.

Существуют угрозы жизни и здоровья людей из-за неисправностей и сбоев в работе электроники. Трое 18-летних подростков пострадали из-за сбоя в электронике автопилотируемой машины Tesla, которая без соблюдения правил выскочила на скорости 100 км/ч на шоссе и разбилась о бетонный отбойник. К сожалению, таких инцидентов достаточно, чтобы не доверять управление и обслуживание роботам.

ИИ может ввести заблуждение и помочь в распространении фейков, в том числе дипфейков. С помощью ИИ, люди, сами того не зная, могут распространять ненастоящие фотографии политиков, актёров, исполнителей. Так, например, в 2023 г. Тейлор Свифт подала иск на ИИ за распространение фейковых фотографий с её участием. К сожалению, сейчас нет определённого закона, который мог бы защитить людей от фейков и определить, на чьих плечах лежит вина. Показательно судебное разбирательство в московском арбитраже по фейковому ролику с утюгом и образом американского актера Киану Ривза. Создатель ролика ООО «Рефейс Технолоджис» выиграла суд у ООО «Бизнес-аналитика» (юрлица сервиса сквозной аналитики и маркетинговой платформы Roistat), которое стало использовать его в коммерческой рекламе. Сам Киану Ривз даже не в курсе о существовании ролика, в котором он нервничает из-за оставленного дома утюга, и судебных разбирательствах вокруг него.

Искусственный интеллект порождает риск безответственного отношения к личности человека. Показательный пример произошёл в Бельгии с мужчиной-экологом. Он хотел решить проблему экологии, но вдруг осознал, что с людьми это обсуждать бесполезно и возложил все надежды на чат-бота «Элизу». Вдова сообщает, что чем больше муж общался с чат-ботом, тем больше он замыкался в самом себе. «Элиза» никогда не перечила мужчине, но при этом отвечала неоднозначно. В итоге он заговорил о самоубийстве, а в ответ чат-бот написал, что они будут «жить с ним в раю как единое целое».

Таким образом, у систем искусственного интеллекта можно найти множество как плюсов, так и минусов. Речь не может идти о запрещении или отказе от него. Как и любая недавно применяемая система, ИИ требует создания правоприменительной, технологической и адаптивной практик, направленных на применение новых механизмов в деятельности человека. А это, в свою очередь, повлечет трансформацию экономической, социальной, бытовой и культурной сфер человеческой жизни.

Список литературы

  1. Кудряшова П.А. Правовое регулирование использования искусственного интеллекта [Электронный ресурс] // cyberleninka : [сайт].
    URL: https://cyberleninka.ru/article/n/pravovoe-regulirovanie-ispolzovaniya-iskusstvennogo-intellekta (дата обращения: 04.04.2024).
  2. Левченко И. В., Павлова А. Е., Садыкова А. Р. Модуль «Введение в искусственный интеллект» в общеобразовательном курсе информатики [Электронный ресурс] // cyberleninka.ru : [сайт].
    URL: https://cyberleninka.ru/article/n/modul-vvedenie-v-iskusstvennyy-intellekt-v-obscheobrazovatelnom-ku... (дата обращения: 03.04.2024).
  3. Соломонов Е. В. Понятие и признаки искусственного интеллекта [Электронный ресурс] // cyberleninka.ru : [сайт].
    URL: https://cyberleninka.ru/article/n/ponyatie-i-priznaki-iskusstvennogo-intellekta-1 (дата обращения: 03.04.2024).
  4. Хусанов У. А., Кудратиллаев М. Б., Сиддиков Б. Н., Довлетова С. Б. Искусственный интеллект в медицине [Электронный ресурс] // cyberleninka.ru : [сайт].
    URL: https://cyberleninka.ru/article/n/iskusstvennyy-intellekt-v-meditsine-4 (дата обращения: 20.04.2024).
  5. Фершт В.М. Современные подходы к использованию искусственного интеллекта в медицине / В.М. Фершт, А.П. Латкин, В.Н. Иванова // Территория новых возможностей. Вестник ВГУЭС. 2020. С. 127–128.
  6. Харитонова Ю. С., Савина В. С. Технология искусственного интеллекта и право: вызовы современности // Вестник Пермского университета. Юридические науки. 2020. Вып. 3. С. 524–549.
  7. Царев Р.Ю., Тынченко С.В., Гриценко С.Н. Адаптивное обучение с использованием ресурсов информационно-образовательной среды // Современные проблемы науки и образования. 2016. № 5.
    URL: https://science-education.ru/ru/article/view?id=25227 (дата обращения: 18.04.2024).
  8. Шишкунова Д.В., Ищенко А.В. Логистика строительного производства: проблемы и пути решения // Инженерный вестник Дона. 2020. № 1.
    URL: ivdon.ru/ru/magazine/archive/N1y2020/6292
  9. Шобонов Н. А., Булаева М. Н., Зиновьева С. А. Искусственный интеллект в образовании [Электронный ресурс] // cyberleninka.ru : [сайт].
    URL: https://cyberleninka.ru/article/n/iskusstvennyy-intellekt-v-obrazovanii-1 (дата обращения: 18.04.2024).
  10. McCarthy J. What Is Artificial Intelli-gence? Computer Science Department // Stanford University. November 12, 2007.
    URL: http://www-formal.stanford.edu/jmc/whatisai/whatisai.html. (дата обращения: 04.04.2024).

Возврат к списку