AI Teknologi Informasi

Meningkatkan Transparansi dan Auditabilitas dalam AI Generatif: Kolaborasi Casper Labs dan IBM Consulting pada Solusi Berbasis Blockchain

Melalui Sinergi Blockchain, Casper Labs dan IBM Consulting Ciptakan Solusi untuk Meningkatkan Transparansi dan Auditabilitas Sistem AI

Dalam upaya untuk membantu klien mencapai tingkat transparansi dan auditabilitas yang lebih tinggi pada sistem kecerdasan buatan (AI) mereka, Casper Labs, penyedia perangkat lunak dan layanan blockchain untuk perusahaan, bekerja sama dengan IBM Consulting. Kolaborasi ini akan melahirkan solusi baru dari Casper Labs, dirancang dengan memanfaatkan teknologi blockchain dan dibangun dengan memanfaatkan IBM watsonx.governance. Solusi ini bertujuan untuk membentuk lapisan analitik dan penegakan kebijakan tambahan untuk mengatur data pelatihan AI di berbagai organisasi.

Pemantauan dan Pengukuran Data Masukan dan Keluaran AI

Proses pelatihan, pengembangan, dan implementasi model AI generatif terjadi di berbagai organisasi, mulai dari pencipta model asli hingga organisasi pengguna akhir. Dengan integrasi dataset baru atau modifikasi model oleh berbagai organisasi, outputnya juga berubah, dan banyak organisasi perlu dapat melacak serta mengaudit perubahan tersebut, sekaligus mendiagnosis dan mengatasi masalah dengan akurat. Blockchain dapat membantu organisasi berbagi informasi konteks terpercaya melalui metadata di ledger yang mendokumentasikan bahwa model telah mengalami perubahan, sekaligus mengurangi risiko tumpang tindih kepemilikan intelektual atau berbagi data yang tidak perlu melintasi batas organisasional.

Solusi Blockchain Casper Labs dan IBM untuk Keamanan Data Sensitif

Solusi yang direncanakan dari Casper Labs akan dibangun di atas Casper, sebuah ledger yang tahan manipulasi dan sangat ter-serialisasi, dan memanfaatkan IBM watsonx.governance serta watsonx.ai untuk memantau dan mengukur data masukan dan keluaran yang sangat ter-serialisasi untuk melatih sistem AI generatif di berbagai organisasi. Dengan sifat hibrida dan sistem izin Casper Blockchain, organisasi dapat mengharapkan dapat melindungi data sensitif yang disimpan dalam solusi dari akses oleh pihak eksternal; mereka memiliki kendali atas siapa yang dapat mengakses data apa. Solusi ini juga akan dibangun untuk mendukung kontrol versi menggunakan kemampuan serialisasi blockchain, sehingga organisasi dapat dengan efisien kembali ke iterasi sebelumnya dari sistem AI jika terjadi masalah kinerja atau output yang bias.

Kontribusi Ahli Teknologi AI dari IBM Consulting

Para ahli dalam tata kelola dan teknologi AI dari IBM Consulting akan membantu Casper Labs dalam membangun solusi ini. Casper Labs berencana untuk menyediakan solusi ini kepada klien dalam bentuk beta pada kuartal pertama tahun 2024, dan nantinya akan tersedia lebih luas di saluran mereka dan di IBM Cloud Marketplace.

Membangun Arah Baru untuk Kepatuhan dan Kendali AI

Solusi Terbaru di Bidang Kepatuhan dan Kendali AI untuk Berbagai Industri

Solusi baru ini diharapkan dapat membantu perusahaan di berbagai industri, termasuk layanan keuangan, kesehatan, dan ritel, dalam menerapkan AI secara bertanggung jawab dalam skala besar melintasi ekosistem teknologi dan penyedia layanan mereka. Beberapa fitur solusi meliputi:

  1. Papan Pemantauan Kepatuhan: Papan pemantauan terpusat untuk memantau dan mengelola sistem AI saat diterapkan di berbagai organisasi guna mendukung proses kepatuhan dengan pedoman etika organisasi.
  2. Toolkit Kontrol Kualitas: Alat untuk memantau kualitas dan kinerja sistem AI, beserta antarmuka untuk meningkatkan transparansi dan penjelasan dari hasil AI.
  3. Kontrol Versi: Kemampuan untuk memperbaiki masalah kinerja atau lainnya dengan “mengembalikan” ke iterasi sebelumnya dari suatu sistem AI yang tidak menunjukkan masalah.
  4. Sistem Audit dan Pelaporan: Sistem untuk mengaudit proses AI dan menghasilkan laporan terperinci berdasarkan metadata konteks yang ditangkap oleh ledger Casper Labs.

Demonstrasi Solusi Tata Kelola AI di Davos

Pada tanggal 16 Januari, Mrinal Manohar dan Shyam Nagarajan akan memperlihatkan solusi ini dalam sesi langsung di The Hub di Davos. Untuk mendaftar ke sesi tersebut, kunjungi thehubdavos.com, atau ikuti Casper Labs di Youtube untuk melihat rekaman sesi.