AI Teknologi Informasi

AI dan Ancaman Terhadap Pemerintahan Amerika Serikat

Pemerintahan Biden Berusaha Menetapkan Batasan-Batasan

Sejumlah penyedia layanan kesehatan dan pembayar telah bergabung dengan 15 perusahaan AI terkemuka lainnya dalam berkomitmen untuk membangun model-model AI dengan benar. Organisasi-organisasi ini termasuk OpenAI, Google, dan mitra OpenAI, Microsoft. Saat kecerdasan buatan terus berkembang dalam popularitas dan kapasitasnya tanpa regulasi yang jelas, pemerintahan Biden berusaha menetapkan beberapa batasan. Menurut seorang pejabat Gedung Putih, dua puluh delapan perusahaan kesehatan, termasuk CVS Health, telah setuju untuk menerima serangkaian kewajiban sukarela yang diusulkan oleh Presiden Amerika Serikat, Joe Biden, untuk menjaga pengembangan AI tetap aman.

Gedung Putih Mengeluarkan Perintah Eksekutif untuk “Mengambil Janji dan Mengelola Risiko” dari AI

Tanpa pengawasan yang memadai, kata pejabat tersebut, diagnosis AI dapat terpengaruh oleh gender atau etnisitas, terutama jika data yang digunakan untuk melatih AI tidak mencerminkan komunitas yang dimaksudkan untuk dibantu. Menurut rencana pemerintahan, perusahaan-perusahaan seharusnya memberitahu konsumen ketika mereka menemui informasi yang sebagian besar dibuat oleh AI tanpa tinjauan atau penyuntingan manusia, dan mereka juga seharusnya memantau potensi kerusakan yang dapat disebabkan oleh aplikasi-aplikasi tersebut.

Perusahaan yang bergabung dengan komitmen tersebut berjanji untuk menggunakan AI secara bertanggung jawab dalam proses pengembangan produk mereka. Ini termasuk menciptakan solusi-solusi yang membantu pasien dalam berbagai cara, seperti mengurangi kelelahan klinisi, meningkatkan akses ke perawatan, meningkatkan hasil melalui koordinasi perawatan, dan memajukan keadilan kesehatan.

Mengatasi Bias

Perintah Eksekutif (EO) ini memerintahkan agensi pemerintah untuk bekerja menuju penghapusan diskriminasi dan bias algoritmik dalam sistem AI. Ini meminta pembuatan pedoman dan praktik terbaik untuk mengurangi bias algoritmik, memeriksa bahwa sistem AI mematuhi hukum hak sipil, mengevaluasi mereka untuk menemukan efek yang tidak adil pada kelompok yang dilindungi, dan memberikan manusia kesempatan untuk meninjau keputusan buruk AI. Selanjutnya, EO ini mengatakan bahwa Departemen Kehakiman harus bekerja sama dalam kasus penegakan hak sipil termasuk bias AI.

Perlu dicatat, EO ini mendorong kepala Federal Housing Finance Agency dan Consumer Financial Protection Bureau untuk mengevaluasi kemungkinan penggunaan kekuasaan mereka untuk menerapkan metodologi yang sesuai, termasuk teknologi kecerdasan buatan, untuk menjamin kepatuhan terhadap hukum federal. Ini melibatkan pemeriksaan sistem evaluasi dan penilaian jaminan otomatis mereka terhadap prasangka dan ketidaksetaraan yang dapat memengaruhi kelas-kelas yang dilindungi, serta model penilaian mereka.

Pengujian Keamanan

Hasil dari pengujian keamanan harus dibagikan dengan pemerintah sebelum sistem kecerdasan buatan apa pun yang dapat membahayakan keamanan nasional Amerika Serikat, ekonomi, kesehatan masyarakat, atau keselamatan bisa dirilis kepada publik, sesuai dengan perintah eksekutif yang dikeluarkan oleh Biden pada 30 Oktober 2023. Oscar, Curai, Devoted Health, Duke Health, Emory Healthcare, dan WellSpan Health adalah beberapa penyedia yang telah menandatangani kesepakatan ini, menurut pejabat Gedung Putih.