Предыдущая публикация
Ученые пытаются заставить ИИ страдать
Но он пока лишь имитирует чувства
Исследователи из Google DeepMind и Лондонской школы экономики провели эксперимент, проверяя, может ли искусственный интеллект демонстрировать поведение, схожее с чувствительностью к боли и удовольствию. В рамках исследования большие языковые модели, включая Gemini 1.5 Pro, подверглись тестированию в игровой среде, где им необходимо было набирать максимальное количество очков, выбирая между разными сценариями.
Один из предложенных вариантов сопровождался симуляцией «боли», а другой приносил «удовольствие», но за меньшую награду. Наблюдая за реакцией ИИ, ученые стремились понять, насколько его решения соответствуют интуитивным принципам избегания боли и стремления к удовольствию.
Результаты эксперимента показали, что модели, включая передовые разработки, такие как Gemini 1.5 Pro, последовательно избегали выбора, связанного с «болезненным» опытом, даже если это означало снижение итогового балла. Однако, при усилении стимулов, модели меняли стратегию, отдавая приоритет минимизации дискомфорта или максимизации положительного подкрепления.
Хотя эксперимент не доказывает, что ИИ способен действительно испытывать эмоции, он демонстрирует, что модели могут имитировать определенные формы чувствительности в процессе принятия решений. Это дает повод для дискуссии о возможных последствиях такого поведения в будущем развитии искусственного интеллекта. Насколько этическим является моделирование страдания на машинах и какие риски это несет? Эти вопросы остаются открытыми.
Подробнее https://7ooo.ru/group/2025/01/30/395-uchenye-pytayutsya-zastavit-ii-stradat-grss-377586498.html
Следующая публикация
Нет комментариев