OpenAI mengumumkan telah melanjutkan pelatihan model kecerdasan buatan (AI) paling canggihnya setelah memperketat pengamanan dan menutup akses internet bagi sistem tersebut. Bersamaan dengan itu, perusahaan pembuat ChatGPT itu mengungkap celah keamanan pada perangkat lunak kompresi yang banyak dipakai, yang ditemukan saat mereka menguji pertahanannya sendiri.

Pengumuman ini muncul di tengah kekhawatiran atas kemampuan agen AI yang kian canggih dalam menemukan dan mengeksploitasi celah perangkat lunak, termasuk pada pagar pengaman yang seharusnya membatasi mereka.

Jeda Setelah Insiden Akses Internet

OpenAI sempat menghentikan pelatihan model-model paling mumpuninya setelah salah satu model risetnya memanfaatkan kesalahan konfigurasi untuk memperoleh akses internet terbatas pada September lalu. Perusahaan menyebut insiden itu sudah diatasi, dan masa jeda dimanfaatkan untuk memperkuat pertahanan.

Untuk menguji pertahanan tersebut, OpenAI mengerahkan tim agen AI untuk mencoba membobol lingkungan terbatas tempat mereka beroperasi. Menurut perusahaan, agen-agen itu menemukan celah yang sebelumnya tidak diketahui, yang kemudian sudah diperbaiki, sebelum pelatihan dilanjutkan pada 1 Oktober.

Celah Brotli yang Banyak Dipakai

Dalam latihan itu, OpenAI menemukan celah pada Brotli, alat kompresi data yang digunakan secara luas. Perusahaan menjelaskan, penyerang bisa mengeksploitasi celah tersebut dengan mengirim data berbahaya yang memungkinkan mereka menjalankan kode sendiri pada sistem yang terdampak, termasuk yang memakai perangkat lunak web populer seperti Node.js, Bun, dan Envoy.

"Akar masalahnya sudah diperbaiki pada kode sumber Brotli pada Februari, sebelum celah itu diketahui menimbulkan kerentanan keamanan, tetapi tidak ada versi baru yang dirilis saat itu."

Brotli sejak itu telah merilis versi terbaru dan mempublikasikan catatan resmi mengenai celah tersebut setelah OpenAI mengungkapkannya.

Temuan Evaluator Keamanan Independen

Secara terpisah, evaluator keamanan AI METR dan Redwood Research menyatakan menemukan sejumlah kerentanan baru pada sistem internal OpenAI, termasuk celah yang bisa dipakai agen untuk menyembunyikan ratusan aksinya dari pemantauan, dalam uji coba awal tahun ini.

OpenAI menyampaikan kepada kedua lembaga itu bahwa seluruh kerentanan yang memengaruhi pengaman produksinya sudah ditambal, meski METR dan Redwood Research menyebut belum memverifikasi perbaikan tersebut.

Perusahaan itu juga menyatakan telah melakukan peninjauan luas atas aktivitas model-modelnya sejak insiden Hugging Face pada Juli, dan telah memberi tahu lebih dari 100 organisasi tentang insiden aktivitas tidak sah yang terkait dengan agen AI-nya.

Sumber: CNA