(no subject)
Sep. 25th, 2025 03:45 pm![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
kondratioКомпания OpenAI анонсировала разработку алгоритма, который сможет определять возраст пользователя на основе его переписок с чат-ботом.
Работать она будет так: если ChatGPT посчитает, что пользователю меньше 18 лет, чат-бот автоматически перейдет в режим с возрастными ограничениями. В нем блокируется сексуальный контент, темы суицида и селфхарма, даже в художественном контексте. Нейросеть также откажется флиртовать.
Кроме того, заметив у ребенка признаки «психологического стресса» — другими словами, попытки навредить себе, — чат-бот уведомит полицию или соответствующие службы, если не сможет сначала связаться с родителями.
Режим с ограничениями включится и в том случае, если ChatGPT не сможет определить точный возраст пользователя. Как рассказал глава OpenAI Сэм Альтман, снять их можно будет, если представить сервису подтверждение своей личности и возраста — паспорт.
***
Вот в этом и состоит проблема. Нейросетям присваиваются юридические функции - слежка, дознание, квалификация и даже прообраз санкций.
Именно поэтому уже не получится отмахиваться мол следят, то пусть им повылазит. Теперь это не просто слежка, но автоматический сбор улик и правоприменение.
Работать она будет так: если ChatGPT посчитает, что пользователю меньше 18 лет, чат-бот автоматически перейдет в режим с возрастными ограничениями. В нем блокируется сексуальный контент, темы суицида и селфхарма, даже в художественном контексте. Нейросеть также откажется флиртовать.
Кроме того, заметив у ребенка признаки «психологического стресса» — другими словами, попытки навредить себе, — чат-бот уведомит полицию или соответствующие службы, если не сможет сначала связаться с родителями.
Режим с ограничениями включится и в том случае, если ChatGPT не сможет определить точный возраст пользователя. Как рассказал глава OpenAI Сэм Альтман, снять их можно будет, если представить сервису подтверждение своей личности и возраста — паспорт.
***
Вот в этом и состоит проблема. Нейросетям присваиваются юридические функции - слежка, дознание, квалификация и даже прообраз санкций.
Именно поэтому уже не получится отмахиваться мол следят, то пусть им повылазит. Теперь это не просто слежка, но автоматический сбор улик и правоприменение.
![[identity profile]](https://www.dreamwidth.org/img/silk/identity/openid.png){kind=small}
no subject
Date: 2025-09-25 03:38 pm (UTC)no subject
Date: 2025-09-25 04:05 pm (UTC)