Pemerintah Amerika Serikat sedang mengembangkan teknologi canggih untuk mendeteksi risiko data berbahaya dalam model kecerdasan buatan (AI). Teknologi ini akan membantu meningkatkan kinerja AI dengan menyaring data yang digunakan untuk melatih model AI. Institut Standar dan Teknologi Nasional (NIST) sedang bekerja keras untuk menguji dan mengembangkan teknologi bernama Dioptra, yang dapat mengukur seberapa berbahaya serangan terhadap data pelatihan model AI yang dapat merusak kinerja sistem AI. Teknologi ini nantinya akan digunakan oleh pemerintah AS, perusahaan, dan masyarakat secara luas.
Dioptra bertujuan untuk membantu perusahaan dalam melatih model AI dengan cara menilai, menganalisis, dan melacak risiko AI. Selain itu, Dioptra juga dapat digunakan untuk melakukan benchmarking dan penelitian model AI serta memberikan platform umum untuk mengekspos model terhadap ancaman. NIST menyatakan bahwa perangkat lunak ini akan membantu masyarakat, termasuk lembaga pemerintah dan usaha kecil dan menengah, dalam mengevaluasi klaim pengembang AI tentang kinerja sistem mereka.
TechCrunch melaporkan bahwa NIST dan AI Safety terus berupaya mengurangi bahaya AI, seperti penyalahgunaan untuk menghasilkan konten pornografi yang tidak etis. Hal ini dilakukan sebagai tindak lanjut dari peluncuran Inspect dari AI Safety Institute Inggris, sebuah perangkat serupa yang bertujuan untuk menilai kemampuan dan keamanan model AI secara keseluruhan. AS dan Inggris memiliki kemitraan yang kuat dalam mengembangkan pengujian model AI tingkat lanjut, yang diumumkan pada KTT Keamanan AI Inggris di Bletchley Park pada November 2023.
Dioptra juga merupakan hasil dari perintah eksekutif Presiden Joe Biden tentang AI, yang mewajibkan NIST untuk membantu dalam pengujian sistem AI. Selain AS, Kanada juga memberikan perhatian besar dalam pengembangan AI. Pemerintah Kanada telah mengalokasikan dana sebesar US$1,76 miliar untuk memperkuat sektor kecerdasan buatan dan menjaga daya saing Kanada dalam bidang AI.