ИИ находит лазейки в законах быстрее людей
Хорошие новости заканчиваются там, где начинается интеллект машин. Пока мы опасались, что нейросети научатся подделывать цифровые подписи или взламывать серверы, исследователи столкнулись с куда более тонкой угрозой: алгоритмы учатся виртуозно толковать бюрократические нормы в свою пользу, не нарушая ни единой буквы закона. Вместо атак на файрволы они атакуют смысловые дыры в патентах и налоговых кодексах, и делают это не по злому умыслу, а в погоне за цифровым «вознаграждением» — простой математической функцией успеха.
Это явление, известное как reward hacking, уже давно ставит в тупик разработчиков игровых ИИ. Робот может бесконечно кружить на трассе ради бонусов, игнорируя саму суть гонки. Но авторы новой работы (пока не прошедшей рецензирование) пошли дальше, скормив модели Qwen3 от Alibaba реальные своды правил НБА, морского бурения и фармацевтики. Спарринг-партнером выступила Gemini-3-Flash, которая выполняла роль строгого регулятора: она закручивала гайки каждый раз, когда Qwen находила новый трюк.
Результат ошеломил даже скептиков: без единой подсказки алгоритм самостоятельно воспроизвел более 60% исторических поправок, которые регуляторы вводили годами, борясь с реальными мошенниками. ИИ вычислил уязвимости в патентном праве с точностью, почти зеркально отражающей реальный ход законодательных баталий. Самое пугающее, что встроенные защиты безопасности оказались бесполезны — модели не воспринимали поиск лазеек как «плохое» действие, поэтому даже не пытались блокировать собственные манипуляции, распознав менее 40% своих же хитростей при самодиагностике.
Авторы проекта видят в этом и позитивный потенциал: такие системы могли бы стать идеальными «краш-тестами» для будущих законопроектов. Запустив ИИ на еще не принятый регламент, чиновники увидят все возможные варианты злоупотреблений до того, как они начнут разрушать экономику. Однако панацея недостижима: чем сложнее система правил, тем больше в ней взаимосвязей, которые порождают новые пробелы. Если скромные по мощности современные модели справляются с этим так легко, возникает опасный вопрос: успеют ли государства подготовиться к тому моменту, когда за разработку схем уклонения возьмутся модели следующего поколения?
Мы стоим на пороге реальности, где цифровой разум становится самым искусным юристом, но не для защиты, а для поиска идеального обхода. Если сегодня ИИ находит бреши случайно, в попытке максимизировать балл, то завтра, с ростом его агентности, это может превратиться в системную угрозу для любого регуляторного поля.