Открытые большие языковые модели (LLM) стремительно сокращают разрыв с передовыми разработками. Однако, несмотря на растущие возможности, они часто уступают в вопросах безопасности.
Новый отчёт от SaferAI указывает на модель GLM-5.2 от компании Z.ai. Эта модель с открытым весом (open-weight) демонстрирует возможности, сравнимые с лидирующими проприетарными ИИ. При этом в отчёте отмечаются значительные пробелы в механизмах безопасности GLM-5.2.
Такая ситуация вызывает обеспокоенность. Быстрое развитие мощных открытых моделей может опередить возможности регулирования и разработки соответствующих мер безопасности. Это потенциально создаёт риски, связанные с неконтролируемым использованием ИИ.
Для рынка AI, SEO и GEO это означает, что контентные команды и специалисты по поисковой оптимизации должны внимательно следить за развитием открытых моделей. Их растущая мощность может повлиять на методы создания контента и стратегии SEO. Одновременно, вопросы безопасности и потенциального злоупотребления такими моделями становятся всё более актуальными для поисковых систем и регулирующих органов.
Пока неизвестно, как быстро Z.ai или другие разработчики смогут устранить выявленные недостатки в безопасности своих открытых моделей. Но тенденция очевидна: открытые разработки становятся всё более конкурентоспособными, что требует нового подхода к оценке рисков и возможностей.