Группа исследователей взломала систему безопасности Open AI

Группа исследователей из Hacktron AI успешно преодолела систему безопасности Open AI и получила доступ к внутренним файлам компании. Исследователи проникли, используя учетную запись Chat GPT сотрудника Open AI. Примечательно, что исследователи воспользовались Claude, моделью ИИ от конкурента Anthropic. Утверждается, что весь процесс занял менее 72 часов, как пишут исследователи в своем блоге с заголовком "Взлом Open AI". После того как они поделились своими находками с Open AI, исследователи смогли получить 6 500 долларов в рамках программы по поимке ошибок.