Regulasi AI

AI News Roundup: Standar Baru untuk Pengujian Integritas Produk AI

Dunia kecerdasan buatan (AI) terus berkembang, dan berita terbaru mencakup pengumuman Responsible AI Institute (RAI) tentang serangkaian standar baru untuk menguji produk AI dalam hal kepercayaan dan integritas.

Institut nirlaba ini, yang dikenal sebagai Responsible AI Institute (RAI), telah meluncurkan sejumlah standar yang dirancang untuk membantu perusahaan menguji produk AI mereka. Standar yang dikenal sebagai Responsible AI Safety and Effectiveness (RAISE) benchmarks ini bertujuan untuk membantu perusahaan dalam menilai integritas produk AI mereka.

Tiga standar awal yang telah dirilis adalah:

  1. RAISE Corporate AI Policy Benchmark: Standar ini digunakan untuk mengukur sejauh mana kebijakan AI suatu perusahaan sejalan dengan model kebijakan AI perusahaan yang disusun oleh RAI Institute. Standar ini dirancang untuk membantu organisasi dalam merumuskan kebijakan AI mereka untuk memastikan kepercayaan dan pertimbangan risiko termasuk dalamnya.
  2. RAISE LLM Hallucinations Benchmark: Standar ini dirancang khusus untuk organisasi yang menggunakan model bahasa besar. Standar ini menilai risiko terjadinya halusinasi dalam sistem AI.
  3. RAISE Vendor Alignment Benchmark: Standar ini digunakan untuk menilai kebijakan organisasi pemasok dan sejauh mana kebijakan tersebut sejalan dengan kebijakan AI etis dan bertanggung jawab dari organisasi pembeli mereka.

Ketiga standar RAISE ini saat ini tersedia dalam pratinjau pribadi dan akan tersedia secara umum bagi anggota RAI Institute pada kuartal kedua tahun 2024.

“Ini adalah era kemajuan AI yang pesat dan peningkatan pengawasan regulasi. Standar RAISE kami memberikan panduan bagi organisasi untuk berinovasi dan mengembangkan AI secara bertanggung jawab, membimbing mereka menuju kepatuhan dengan standar global yang berkembang,” kata Var Shankar, direktur eksekutif RAI Institute.

Selain itu, Meta, perusahaan induk Facebook, juga telah meluncurkan generator gambar AI mereka yang diberi nama “Imagine”. Pengguna sekarang dapat mencoba generator gambar AI Meta ini yang sebelumnya hanya tersedia melalui obrolan di aplikasi media sosial perusahaan. Pengguna cukup mengetikkan apa yang mereka ingin lihat dalam kotak teks, mengklik generate, dan sistem akan menciptakan empat versi dari hasil yang diinginkan.

Seluruh gambar dilengkapi dengan watermark yang berbunyi “imagined with AI” (diciptakan dengan AI) – Meta telah bekerja pada sistem penandaan air untuk memastikan asal gambar yang dihasilkan oleh AI dapat dilacak. Imagine saat ini hanya tersedia untuk pengguna di Amerika Serikat.

Selain itu, para peneliti di MIT telah mengembangkan proses pengenalan khusus yang dirancang untuk membantu manusia memahami kapan hasil keluaran model AI dapat dipercaya. Sistem ini, yang dibangun oleh MIT-IBM Watson AI Lab, dirancang untuk membantu para profesional dalam membuat keputusan berdasarkan hasil AI.

Sistem ini menggunakan analisis data dan deskripsi bahasa alami untuk mengajarkan pengguna cara bekerja secara efektif dengan AI dan memberikan umpan balik tentang kinerja dan keandalannya. Ini dirancang agar dapat digunakan di berbagai bidang, termasuk perawatan kesehatan.

Demikianlah sejumlah berita terkini dari dunia AI. Perkembangan terus berlanjut, dan berita ini hanya sebagian kecil dari apa yang terjadi dalam dunia yang penuh inovasi ini. Pastikan untuk tetap update dengan berita AI terbaru dan jangan lupa berlangganan newsletter AI Business untuk mendapatkan konten langsung di kotak masuk email Anda. Dan, selamat mencoba teknologi AI terbaru yang telah diluncurkan!