Anthropic пытается вернуть доступ к нейросетям Mythos и Fable
Разработчик ИИ-систем Anthropic предложил министерству торговли США план по усилению контроля за безопасностью своих продуктов. Компания рассчитывает, что это поможет снять запрет на работу нейросетей Mythos 5 и Fable 5, которые были экстренно отключены после обнаружения критических уязвимостей, позволявших обходить встроенные механизмы защиты.
Переговоры с администрацией Дональда Трампа возглавили сооснователь компании Том Браун и глава направления публичной политики Сара Хек. По словам источников, диалог продвигается продуктивно, хотя конкретные сроки возобновления доступа к моделям пока не определены. Ранее глава Amazon Энди Джасси предупредил разработчиков о серьезных рисках, связанных с возможностью обхода защиты, что и привело к полному отзыву нейросетей.
Белый дом выразил обеспокоенность потенциальными угрозами для критической инфраструктуры, включая банковский сектор и систему здравоохранения. Вице-президент Джей Ди Вэнс неоднократно обсуждал с лидерами ИИ-индустрии риски кибератак, которые могут быть реализованы с помощью таких мощных инструментов, как Mythos 5. На фоне этих дискуссий администрация рассматривает возможность введения жесткого формального надзора за разработкой передовых технологий. Для Anthropic урегулирование спора критически важно: компания готовится к IPO, и любые ограничения на флагманские продукты могут негативно отразиться на оценке бизнеса в конкуренции с OpenAI.
Комментарии (0)
Пока нет комментариев. Будьте первым!