КАРГАТ

Почему в ИИ не “зашьют” Первый Закон Робототехники, который говорит о ценности человеческой жизни?

Недавно все обсуждали студента, которому нейросеть Gemini сообщила, что он обуза для общества и язва для окружающей среды и посоветовала, что он с этим должен сделать. И это в ответ на запрос о пенсионных программах!Объяснение, которое разработчики дают этому случаю (и другим аналогичным), звучит так: обучение ИИ происходит на огромном массиве материала, в котором могут попадаться дурацкие шутки.
Я все понимаю, но, вероятно, надо учить искусственный интеллект как-то фильтровать информацию! И первым фильтром точно должны стать правила, сформулированные ещё в 1942 году американским фантастом Айзеком Азимовым.
Напомню вкратце:
Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
И нулевой закон, добавленный позднее, который повторяет 1-й, но относительно человечества.
Ещё один недавний случай, который вылился в настоящую трагедию для подростка во Флориде, и мать обвиняет в этом ИИ:
Мальчик несколько месяцев общался с машиной в чат-боте, который играл роль Дейнерис Таргариен. Пацан влюбился в выдуманную героиню и начал обсуждать с ней возможный собственный конец. А виртуальный персонаж несколько раз возвращал его к болезненной теме и склонял к роковому решению.
Все закончилось максимально плохо, но если я напишу это простыми словами, меня "поругают" здешние алгоритмы. Они, видите ли, достаточно умны, чтобы подобный контент до ваших ушей и глаз не допускать, а нейросеть почему-то открытым текстом сказала мальчику: "Я верю в тебя, встретимся на небесах". Ну, примерно так. Сейчас дело разбирается в суде.
Мне кажется, вопрос назрел. О восстании машин мы ещё, конечно, не говорим, но об элементарных мерах безопасности подумать пора.
Недаром их продумали почти сто лет назад, и все эти сто лет люди фантазируют на тему страшных сценариев развития робототехники. А каждая хорошая книга, это, кстати, мысленный эксперимент. Пора уже что-нибудь из накопленных результатов применять на практике!
Какие мысли есть по этому поводу?
И, кстати, смотрите, какую красивую картинку мне ИИ сляпал по запросу "текстовая нейросеть, безопасность, первый закон робототехники". И как мы без них жили раньше? Полезные и рисуют красиво!
Анна Константинова Авторский блог писателя 
Заглядывайте, буду рада новым подписчикам!
Самое бурное обсуждение этой статьи получилось в моем блоге на АвторТудей. Там более сотни комментариев, можете присоединиться или высказаться здесь.
Подписывайтесь еще на мой Телеграм канал о писательстве и искусстве

Ёлочка, зажгись! Торжественно открылась городская ёлка в Каргате. Фоторепортаж

25 декабря в Парке города Каргат состоялось торжественное открытие городской ёлки «Новогодняя сказка».
В яркой развлекательной программе приняли участие самые главные новогодние герои — Дед Мороз и Снегурочка. Веселые игры и хороводы со сказочными персонажами не оставили равнодушными как маленьких, так и взрослых зрителей. Дети стали активными участниками весёлых игр и конкурсов.
Завершением программы по традиции стал «Новогодний хоровод» со Снегурочкой и Дедом Морозом. С помощью новогодних героев ёлка наконец-то засветилась огнями. Всё вокруг стало ещё светлее и краше.
С праздником, земляки!
Текст. Фото: КДЦ Каргатского района

Проезд на электричках станет дороже

В Новосибирской области проезд на электричках станет дороже, о чем проинформировал департамент по тарифам
С 1 января 2025 года купить билет на электропоезд станет затратнее. Цены поднимут на проезд во все направления. Повышение составит 8-15%, в зависимости от точки назначения.
Цены вырастут как по городу, так и по области. Доехать до самой дальней точки региона обойдется в 610 рублей. Причем данное повышение является уже вторым за год. Пассажиров возмущает очередное подорожание.
Также в Новосибирске стал дороже любой общественный транспорт. Проехать по городу теперь стоит 40 рублей — в метро, автобусах, трамваях и троллейбусах.
Источник: atas.info

Почти час стояли в пробке каргатцы возле жд переезда на Трудовой. Фотофакт

"Сегодня, 25 декабря, город Каргат встал в плотной пробке. Переезд был закрыт с 12.45 час до 13.30 час. Машины растянулись на сотни метров по обе стороны, не менее 500 м в длину,"- свидетельствует очевидец.