AI Umum

Searchformer: Meningkatkan Efisiensi Perencanaan dengan Model Transformer

Pendahuluan

Kecerdasan Buatan (AI) berkembang pesat, dengan Transformer memimpin inovasi. Namun, perencana simbolik tradisional tetap unggul dalam tugas pengambilan keputusan dan perencanaan yang kompleks karena pendekatan berbasis aturan yang terstruktur.

Tantangan dalam Perencanaan AI

Model Transformer saat ini memiliki keterbatasan dalam menyelesaikan tugas perencanaan dan penalaran yang kompleks. Meskipun tidak memiliki pemahaman bahasa alami yang bernuansa seperti Transformer, metode tradisional unggul dalam tugas perencanaan karena strategi pencarian sistematis dan sering kali memberikan jaminan optimalitas.

Searchformer: Mengatasi Kesenjangan

Meta AI telah memperkenalkan Searchformer, model Transformer baru yang secara signifikan meningkatkan efisiensi perencanaan dalam tugas kompleks seperti teka-teki Sokoban. Tidak seperti pendekatan tradisional, Searchformer menggabungkan kekuatan Transformer dengan dinamika pencarian terstruktur dari perencana simbolik, menghasilkan proses perencanaan yang lebih efisien.

Pelatihan dan Evaluasi

Searchformer dilatih dalam dua langkah:

  • Meniru prosedur pencarian A* menggunakan kumpulan data sintetis.
  • Meningkatkan model menggunakan iterasi ahli, mendorong Transformer untuk menghasilkan lebih sedikit langkah pencarian sambil menemukan solusi optimal.

Kinerja dievaluasi menggunakan metrik seperti persentase tugas yang diselesaikan, solusi optimal, dan rasio panjang yang ditingkatkan.

Hasil

Searchformer mengungguli model perencanaan tradisional seperti pencarian A* dalam hal metrik ini. Ini memecahkan teka-teki Sokoban yang belum pernah dilihat sebelumnya secara optimal 93,7% dari waktu, menggunakan hingga 26,8% lebih sedikit langkah pencarian. Ini juga mengungguli model dasar dalam tugas navigasi labirin, dengan ukuran model 5-10× lebih kecil dan kumpulan data pelatihan 10× lebih kecil.

Kesimpulan

Searchformer menandai kemajuan signifikan dalam perencanaan AI, membuka jalan bagi AI untuk menavigasi tugas pengambilan keputusan yang kompleks dengan efisiensi dan akurasi yang belum pernah terjadi sebelumnya. Dengan mengatasi tantangan perencanaan dalam AI, Searchformer meletakkan dasar untuk sistem AI yang lebih mumpuni dan efisien.