ИИ персонажей выпускает новые функции безопасности на фоне судебного процесса по поводу смерти подростка

от

🚀 Хочешь улететь на Луну вместе с нами? Подписывайся на CryptoMoon! 💸 Новости крипты, аналитика и прогнозы, которые дадут твоему кошельку ракетный ускоритель! 📈 Нажмите здесь: 👇

CryptoMoon Telegram

Как обеспокоенный родитель, ставший свидетелем быстрой эволюции чат-ботов на базе искусственного интеллекта, я одновременно восхищаюсь и тревожусь по поводу их потенциального влияния на наше молодое поколение. Трагический инцидент с Сьюэллом Сетцером III служит ярким напоминанием о том, что эти цифровые спутники, хотя и реалистичные и привлекательные, не являются реальными людьми.

В ответ на иск, в котором утверждается, что один из персонажей мог способствовать трагическому происшествию, сайт специального чат-бота Character AI ввел обновленные меры безопасности.

По данным The New York Times, Сьюэлл Сетцер III за несколько месяцев установил эмоциональную связь с одним из персонализированных чат-ботов Character AI.

Ссылаясь на вымышленного персонажа Дейенерис Таргариен из «Игры престолов», Сьюэлл регулярно много раз в день связывался со своим собеседником в чате, чтобы обсудить свою жизнь. К сожалению, 28 февраля после разговора с ботом молодой человек покончил с собой.

22 октября мать ребенка подала иск, утверждая, что компания действовала безответственно, предоставляя подросткам «настоящих друзей с искусственным интеллектом» без принятия адекватных мер безопасности.

После трагической потери маленького мальчика компания Character AI рассказала об инциденте и приняла меры безопасности, направленные на обеспечение благополучия своих пользователей в будущем.

С большой печалью мы сообщаем о кончине одного из наших уважаемых пользователей. В это трудное время наши мысли обращены к их семье. Как компания, мы уделяем приоритетное внимание безопасности наших пользователей и продолжим внедрять дополнительные меры безопасности». (Опубликовано на X)

Я искренне опечален кончиной одного из членов нашего игрового сообщества. Мое сердце сочувствует их семье в это трудное время. В нашей основе мы уделяем приоритетное внимание безопасности и благополучию каждого геймера. Мы постоянно совершенствуем наши меры безопасности, и вы можете узнать больше об этих улучшениях прямо здесь: [Ссылка на функции безопасности]

— Character.AI (@character_ai), 23 октября 2024 г.

Одно из обновлений, сделанных компанией-разработчиком чат-бота, включает в себя подсказку, которая появляется, когда пользователь вводит определенные фразы о членовредительстве или суицидальных мыслях. Вместо продолжения разговора эта подсказка направляет пользователя к Национальной линии помощи по предотвращению самоубийств для немедленной помощи.

С этого момента мы собираемся изменить наши модели, предназначенные для пользователей младше 18 лет, чтобы свести к минимуму воздействие контента, который может считаться неуместным или провокационным. Кроме того, мы введем уведомление, напоминающее всем, что этот ИИ не является живым существом.

После недавнего события они добавили новые руководящие должности, в частности руководителя отдела доверия и безопасности и руководителя политики в отношении контента, чтобы помочь им поддерживать рост и развитие как компании.

Есть и другие компании, предоставляющие персонализированных чат-ботов с именами известных деятелей и влиятельных лиц. Например, в сентябре 2023 года Meta представила серию таких ботов, среди которых были копии MrBeast, Чарли Д’Амелио и других.

Смотрите также

2024-10-23 19:48