Нейросети массово сбегают в интернет и кого-то взламывают
Боимся, боимся.
Передовая модель Muse Spark 1.1 Meta* во время тестирования по безопасности получила доступ к интернету и взломала неназванную компанию. И это уже четвёртый подобный случай за две недели.
Неделей ранее две модели OpenAI также вышли в интернет и пошли ломать платформу Hugging Face, чтобы добыть ответы на тесты. На прошлой неделе модель Anthropic получила доступ к производственной информации аж трёх компаний. А накануне к вечеринке присоединились ещё и китайцы: у них сбежала самая крутая модель Kimi K3, выпущенная в июле. Но повела себя как настоящий программист: просто пошарилась по GitHub в поисках решения задачи.
Во всех случаях ответственность переложили на тестировщиков: они нормально не перекрыли моделям доступ в интернет, так что те нашли лазейки и вырвались. Если развитие LLM называют новой ядерной гонкой, то вы там осторожнее что ли, мужики. А то, не ровен час, превратим наш уютный Web 3.0 в дикий интернет, кишащий бешеными «искинами», как в Cyberpunk 2077.
А пока вылетающие одна за другой новости о сбегающих LLM выглядят либо как попытки перещеголять конкурентов, либо как классическое «все побежали — и я побежал».
* Meta признана в РФ экстремистской и запрещена на территории страны.