Anthropic sedang mengembangkan FlashProve, sistem sumber terbuka yang dirancang untuk membuktikan secara kriptografis bahwa sebuah jawaban AI benar-benar dihasilkan oleh model tertentu. Tujuannya adalah memberi pengguna cara memverifikasi klaim “respons ini berasal dari model X” tanpa harus mempercayai penyedia layanan AI secara buta.

Apa Itu FlashProve?

FlashProve menawarkan konsep yang disebut provable inference: bukti matematis-kriptografis bahwa output tertentu benar-benar berasal dari model yang diklaim. Sistem ini bekerja mirip tanda tangan digital pada email penerima dapat memastikan pesan benar-benar berasal dari pengirim yang sah.

Dalam praktiknya, laboratorium AI perlu menerbitkan sebuah “fingerprint” atau sidik jari untuk setiap model yang dirilis. Sidik jari tersebut kemudian dapat dicocokkan dengan output model untuk diverifikasi secara kriptografis.

Bagaimana Cara Kerjanya?

Laboratorium AI menerbitkan fingerprint model saat model dirilis.

Saat model menghasilkan jawaban, sistem membuat bukti yang dapat diverifikasi.

Pengguna atau perangkat lokal dapat mencocokkan bukti tersebut dengan fingerprint model.

Verifikasi tidak memerlukan akses ke bobot model (weights) yang bersifat rahasia.

Poin pentingnya, fingerprint tersebut tidak membuka bobot internal model—data yang menentukan perilaku model dan biasanya dijaga ketat oleh perusahaan seperti Anthropic dan OpenAI. Dengan begitu, verifikasi dapat dilakukan tanpa membocorkan kekayaan intelektual penyedia model.

Mengapa Ini Penting?

Sistem seperti FlashProve berpotensi mengatasi masalah kepercayaan dalam ekosistem AI. Pengguna dapat memastikan bahwa mereka benar-benar memakai model yang diiklankan, bukan model lain yang lebih murah, lebih kecil, atau berbeda kemampuannya.

Ini juga relevan untuk audit, kepatuhan, dan klaim publik. Misalnya, sebuah perusahaan yang mengatakan menggunakan model tertentu untuk layanan pelanggan dapat memberikan bukti yang dapat diperiksa pihak ketiga, alih-alih hanya mengandalkan pernyataan penyedia.

Sifat Terbuka dan Batasannya

Anthropic merilis spesifikasi teknis dan kode kerja untuk sebagian elemen sistem di GitHub di bawah lisensi sumber terbuka. Verifikasi juga dirancang ringan sehingga berpotensi dijalankan pada perangkat lokal.

Namun, ini masih tahap riset. Anthropic menyatakan belum ada rencana untuk menerapkan FlashProve pada produknya sendiri maupun laboratorium AI lain; publikasi ini dimaksudkan sebagai kemajuan awal yang dapat ditinjau, diambil, dan dikembangkan oleh pihak lain.

Implikasi ke Depan

Jika matang, FlashProve dapat menjadi standar baru untuk transparansi AI: bukan sekadar “model ini diklaim sebagai Claude,” melainkan “ada bukti kriptografis bahwa respons ini berasal dari Claude.” Tantangan utamanya adalah mendorong adopsi lintas industri, karena sistem ini hanya berguna jika banyak penyedia model bersedia menerbitkan fingerprint dan menyertakan bukti pada output mereka.