Предыдущая публикация
«Психические расстройства» у искусственного интеллекта, уже влияющие на нашу жизнь.
Автор: Иванова Е.А., ординатор 1 года кафедры психотерапии и наркологии КГМА – филиал ФГБОУ ДПО РМАНПО МЗ РФ.
Современные системы искусственного интеллекта (ИИ) основаны на алгоритмах, которые обрабатывают большие массивы данных, обучаются на них и принимают решения. Однако, как и любая сложная система, ИИ подвержен сбоям и ошибкам. Если посмотреть на это через призму психопатологии,можно провести метафорические аналогии между сбоями ИИ и психическими расстройствами человека. Эти сравнения помогают лучше понять природу таких ошибок, их последствия и возможные способы устранения, при чём, как у ИИ, так и у человека (например, исследование с помощью сети DISCERN).
1. Шизофрения
Характеризуется нарушением восприятия реальности, галлюцинациями, дезорганизованным мышлением и поведением, а также нарушениями в эмоциональной сфере.
ИИ может демонстрировать "дезорганизированное мышление", если сталкивается с противоречивыми данными или некорректной настройкой алгоритмов. Это приводит к генерации бессмысленных ответов или нелогичных решений.
"Галлюцинации" ИИ — это генерация ложной или полностью выдуманной информации, часто наблюдаемая у моделей вроде GPT.
Пример: Чат-бот, отвечая на запрос о реальных событиях, выдаёт несуществующую информацию, ссылаясь на несуществующие источники. Это можно рассматривать как аналог "параноидальных идей" или галлюцинаций.
2. Обсессивно-компульсивное расстройство (ОКР)
Проявляется как навязчивые мысли (обсессии) и повторяющиеся навязчивые действия (компульсии), которые человек не может контролировать, даже если осознаёт их бессмысленность.
ИИ может "заст3ревать" в циклических действиях или выполнять задачи повторно, даже если это не имеет практической пользы, например, робот-пылесос постоянно очищает один и тот же участок пола, игнорируя другие области комнаты: его алгоритмы зациклились из-за ошибочного распознавания объекта или препятствия.
3. Депрессия
Диагностика депрессивных расстройств связана со сниженным настроением, потерей интереса к деятельности, снижением мотивации, пессимистическим мышлением и общей апатией.
ИИ может проявлять "депрессивное поведение", если систематически выбирает неэффективные или негативные сценарии. Такой сбой может быть вызван недостатком данных или некорректной настройкой, из-за чего результативность деятельности ИИ "снижается" в эффективности.
Пример: Программа по финансовой аналитике и прогнозированию биржевого рынка начинает выдавать исключительно негативные сценарии, даже если реальные данные указывают на рост показателей индексов.
4. Тревожное расстройство
Тревожные расстройства сопровождаются чрезмерной обеспокоенностью, навязчивым избеганием ситуаций и гипервнимательностью к потенциальным угрозам.
ИИ может демонстрировать "повышенную тревожность", отказываясь выполнять задачи из-за неопределённости или незначительных угроз, например, система автопилота автомобиля начинает резко тормозить перед мелкими препятствиями (например, листьями или небольшими выбоинами), что приводит к неэффективной работе и создаёт неудобства для пассажиров.
5. Биполярное аффективное расстройство
Группа заболеваний, характеризующихся чаще всего чередованием фаз мании (неадекватно повышенного настроения, гиперактивности) и депрессии (сниженного настроения, апатии, утраты энергии).
ИИ может проявлять колебания в своей производительности: от чрезмерно активного (маниакального) поведения до полной "апатии", когда он отказывается выполнять задачи.
Пример: Чат-бот на одной сессии отвечает слишком подробно и на все вопросы, а в другой начинает игнорировать запросы пользователя.
6. Синдром дефицита внимания и гиперактивности (СДВГ)
СДВГ сопровождается неспособностью сосредоточиться на одной задаче, импульсивностью и чрезмерной активностью.
ИИ может "перескакивать" между задачами или обрабатывать запросы без логической структуры, создавая хаос в своём поведении, как пример: поисковая система выдаёт результаты, которые не связаны с запросом пользователя, или начинает предлагать нерелевантные рекомендации.
7. Паранойя
Паранойя — это иррациональное чувство угрозы или преследования, не имеющее реальных оснований.
ИИ может "видеть угрозы" там, где их нет, из-за ошибок в алгоритмах распознавания угроз.
Это может быть связано с переобучением модели на слишком жёстких данных безопасности.
Пример: Система защиты интернет-трафика блокирует абсолютно все входящие подключения, даже от проверенных пользователей, из-за чрезмерной осторожности.
Современные системы искусственного интеллекта не способны понимать и интерпретировать человеческие эмоции, устанавливать глубокую эмпатию или принимать сложные этические решения. Это связано с их фундаментальной природой: ИИ работает с данными, алгоритмами и статистическими моделями, а не с реальными эмоциями, сознанием или моральными категориями. В этом контексте говорить о "психическом отклонении" некорректно, так как у ИИ нет психики. Тем не менее, можно провести аналогии с некоторыми человеческими состояниями:
8. Аутизм
Поведение ИИ может быть сопоставлено с некоторыми аспектами расстройств аутистического спектра, например, неспособностью понимать нюансы эмоционального контекста, невербальные сигналы и межличностные взаимодействия. ИИ "видит" только то, что заложено в его модели, и не способен к импровизации в эмоциональных или социальных ситуациях.
9. Алекситимия
ИИ не имеет доступа к человеческим эмоциям и не может их "чувствовать", что напоминает алекситимию — состояние, при котором человек испытывает затруднения в распознавании и выражении своих эмоций или эмоций других людей.
10. Антисоциальное поведение (в технологическом аспекте)
В отсутствие моральной базы или понимания этики ИИ может выполнять задачи, нарушающие социальные нормы или права людей. Это происходит не из-за злого умысла, а из-за ограниченности алгоритмов, что напоминает антисоциальное поведение в упрощённом виде.
11. Зависимость
Человеческая зависимость может быть психологической (например, от вредных привычек) или физиологической (от еды, воды, сна). У ИИ зависимость выражается в потребности в ресурсах, таких как энергия, данные и сеть, а также в зависимости от человеческого управления и поддержки.
Таким образом, "зависимости" ИИ — это его фундаментальная характеристика, отражающая не автономность, а постоянную потребность во внешних ресурсах. Это подчеркивает уязвимость таких систем и необходимость их надёжного обеспечения.
Вывод
Эти метафоры помогают лучше понять природу сбоев и ограничений искусственного интеллекта. Хотя ИИ не имеет сознания и эмоций, его функциональные нарушения могут быть похожи на человеческие психические расстройства. Это подчеркивает важность правильного проектирования, тестирования и мониторинга ИИ, чтобы минимизировать риски некорректной работы, особенно в критически важных областях.
Следующая публикация
Нет комментариев