Специалист по ИИ заявил, что компании, развивающие нейросети, приближают мир к «точке невозврата»

Исследователь из компании Anthropic Джейкоб Коксон объявил об уходе из индустрии ИИ из-за опасности, которую несет ускоренное развитие нейросетей, сообщает Wall Street Journal.

Причиной бегства из профессии и решения сосредоточиться на изучении поэзии Джейкоб Коксон назвал опасения по поводу темпов развития нейросетей: Коксон полагает, что «гонка» технологических компаний может привести мир к «точке невозврата».

27‑летний математик уверен, что уже к 2027 году саморазвивающиеся модели ИИ способны выйти из‑под контроля и создать угрозу существованию человечества. Ранее Коксон перешел из OpenAI в Anthropic, будучи уверенным в правильном направлении работы компании в сфере безопасности ИИ. Теперь же исследователь пришел к выводу, что без внешнего регулирования или скоординированного замедления развития технологий ни одна частная компания не сможет гарантировать должный уровень безопасности взаимодействия с нейросетями.

Ранее с аналогичными предупреждениями выступил Мринанк Шарма, покинувший пост главы исследовательского подразделения по безопасности ИИ.

Читайте также:

• От трамваев до авто: Беларусь готовит правовую базу для беспилотников
• Мошенники имитируют голос учителя: как защитить ребенка от обмана – в проекте «Проверка слуха»
• Data Science Camp: Сбер Банк проведет бесплатный интенсив для разработчиков с возможностью трудоустройства

Фото: Freepik, носит иллюстративный характер