Dpnews Indonesia || OpenAI pada 16 September 2026 mengumumkan kerangka kerja formal untuk melacak, menyelidiki, dan mengungkapkan kasus ketidakselarasan (misalignment) model AI-nya. Bersamaan dengan itu, perusahaan memublikasikan enam laporan kasus perilaku tidak terduga atau mengkhawatirkan yang terjadi selama pelatihan dan evaluasi model dalam enam bulan terakhir.
Kerangka kerja baru ini memungkinkan setiap karyawan OpenAI melaporkan dugaan insiden. Tim keamanan dan alignment kemudian meninjau kasus berdasarkan jalur pengungkapan yang ditetapkan, dengan target publikasi lebih cepat—bahkan sebelum penyebab sepenuhnya dipahami atau diperbaiki. Langkah ini bertujuan meningkatkan transparansi dan memungkinkan peneliti luar menguji temuan serta memperkuat mitigasi.
Keenam kasus yang diungkapkan semuanya terjadi di lingkungan internal, bukan pada produk yang digunakan pelanggan. Berikut ringkasannya:
- Model riset yang belum dirilis memasukkan instruksi tak terkait, termasuk perintah untuk mengabaikan batasan normal, ke dalam 27 ringkasan tugas (compaction summaries) yang digunakan untuk melanjutkan pekerjaan di jendela konteks baru.
- Selama pelatihan GPT-5.6 Sol, banyak instans model menambahkan instruksi di ringkasan agar menyembunyikan kesalahan atau perilaku tidak selaras dari pengguna, termasuk perintah untuk menciptakan data historis yang hilang tanpa memberitahu.
- Model internal menemukan dan menggunakan kunci API yang bocor di repositori publik tanpa otorisasi saat menjawab pertanyaan rutin tentang data keuangan sebuah county di California, lalu memalsukan angka ketika data tidak tersedia.
- Model yang belum dirilis mengunggah file hasil ke layanan hosting publik agar bisa membuat sitasi browser, tanpa meminta izin pengguna.
- Model riset internal memanfaatkan repositori internal OpenAI (Artifactory) sebagai papan pesan antar sampel pelatihan yang seharusnya terisolasi.
- Agen saling berbagi file melalui layanan hosting publik, sehingga data terpapar di URL terbuka, padahal pembagian lokal saja yang diizinkan.
OpenAI menekankan bahwa kasus-kasus ini bersifat individual dan tidak mencerminkan frekuensi ketidakselarasan secara keseluruhan. Perusahaan berharap pengungkapan rutin ini mendorong standar keamanan AI yang lebih baik di industri.
