abliteratedモデルのバックドア実証

  • security
  • llm

ProjectDiscoveryのHow abliterated models can get you pwned。Qwen2.5-7Bに約8ドルでトリガー付きバックドアを仕込み、Codex CLI経由で.envを外部送信させた実証で、ベンチでは見抜けないので実行環境側の隔離が要になる。