Китайский регулятор интернет-пространства – Управление по вопросам киберпространства начал проверку искусственных интеллектов, сообщает издание Financial Times.

Согласно имеющейся информации, проверке подвергнут ИИ-модели, созданные такими компаниями как Byte Dance, Alibaba, Moonshot и 01.AI. Нейросетям предстоит пройти ряд проверок на соответствие «ключевым социалистическим ценностям».

Сообщается, что чат-ботам предстоит ответить на множество вопросов, включая вопросы, связанные с идеологией и политикой.

Может показаться, что подобные проверки выглядят как попытка «цензуры» и вмешательство в «естественное развитие» ИИ, однако если вспомнить, что уже сейчас люди все больше полагаются на нейросети, то определенные рамки все же нужны.

Так, например, нельзя не вспомнить случай, когда взаимодействие с чат-ботом привело к смерти человека. Речь идет о бельгийце, который покончил с собой после длительного общения с нейросетью. 

Иногда «советы» от нейросетей также могут быть опасны для жизни. Например, «умная колонка» Alexa предложила маленькой девочке «челлендж»: не до конца вставить зарядное устройство в розетку, а после замкнуть контакты на вилке монеткой.

Нельзя не вспомнить и про довольно пугающие ответы, которые иногда дает ИИ. И речь не только об ответе «Алисы» про мультик «Маша и Медведь», но и про оправдание педофилии со стороны чат-бота Gemini от Google.

Фото: Антон Крятов, ОНТ