Couchbase pada hari Kamis meluncurkan kemampuan pencarian vektor dalam sebuah langkah yang bertujuan membantu pelanggan mengembangkan model dan aplikasi AI, termasuk AI generatif, menggunakan data milik mereka sendiri.
Berbasis di Campbell, California, Couchbase adalah vendor database yang menyediakan platform database-as-a-service Couchbase Capella, yang pertama kali diluncurkan pada tahun 2021, untuk pelanggan berbasis cloud dan Couchbase Enterprise untuk pengguna lokal.
Pencarian vektor kini dalam tahap pratinjau, dan Couchbase berharap kemampuan tersebut tersedia secara umum bagi pelanggan cloud dan lokalnya pada bulan Mei.
Dengan penelusuran vektor yang kini dipandang sebagai komponen penting dalam proses pengembangan AI generatif, banyak vendor database telah memperkenalkan kemampuan penelusuran dan penyimpanan vektor. Spesialis basis data MongoDB dan Rockset adalah rekan Couchbase yang sebelumnya meluncurkan kemampuan pencarian vektor. Selain itu, vendor platform data termasuk Databricks, Google, dan Snowflake semuanya telah menambahkan pencarian vektor.
Namun, lonjakan popularitas pencarian vektor selama setahun terakhir cukup baru sehingga Couchbase tidak berada dalam posisi yang tidak menguntungkan secara kompetitif, menurut Stephen Catanzano, seorang analis di Grup Strategi Perusahaan TechTarget.
Semua orang mulai mengumumkan pencarian vektor pada akhir tahun lalu. Beberapa sudah memilikinya dan mulai membuatnya lebih baik, dan yang lainnya mengumumkan dan membangunnya. Tapi menurutku tidak [Couchbase is] di belakang.
Stephen CatanzanoAnalis, Grup Strategi Perusahaan
“Semua orang mulai mengumumkan pencarian vektor pada akhir tahun lalu,” kata Catanzano. “Beberapa sudah memilikinya dan mulai membuatnya lebih baik, dan yang lainnya mengumumkan dan membangunnya. Tapi menurut saya mereka tidak ketinggalan.”
Faktanya, kemampuan pencarian vektor Couchbase agak berbeda dengan yang diperkenalkan vendor lain, lanjutnya.
Tidak seperti pencarian vektor yang terbatas pada lingkungan database di tempat, fungsi pencarian vektor Couchbase meluas ke seluruh cloud dan perangkat seluler dan IoT melalui Couchbase Lite, database dokumen yang dapat ditanamkan ke dalam perangkat edge untuk memungkinkan pengambilan keputusan secara real-time.
“Aku suka Couchbase [approach] untuk memberdayakan pengembang dengan sudut pandang pengembangan aplikasi yang baru,” kata Catanzano.
Bersamaan dengan peluncuran kemampuan pencarian vektor, Couchbase juga mengungkapkan integrasi baru dengan kerangka pengembangan AI LangChain dan LlamaIndex.
Pencarian vektor
Pencarian vektor tanggal hingga awal tahun 2000an. Namun, popularitasnya melonjak selama setahun terakhir karena munculnya AI generatif sebagai sarana yang memungkinkan pengelolaan data dan analisis data.
Secara khusus, penelusuran vektor adalah komponen kunci dari alur pengambilan-augmentasi (RAG) yang memungkinkan perusahaan melatih model AI generatif dengan data milik mereka sendiri.
Model bahasa besar (LLM) seperti ChatGPT dan Google Gemini memungkinkan orang mengajukan pertanyaan menggunakan bahasa alami dan menerima tanggapan. Selain itu, model dapat menghasilkan gambar dan kode saat diminta dan dapat dilatih untuk mengotomatiskan tugas.
Oleh karena itu, ketika diintegrasikan dengan manajemen data dan alat analitik, keduanya berpotensi membuat penggunaan analitik lebih luas dalam organisasi dan membuat pakar data menjadi lebih efisien.
Namun, beberapa LLM terpopuler hanya dilatih berdasarkan data publik. Mereka dapat dengan cepat menjawab pertanyaan tentang Depresi Besar atau Revolusi Amerika, dan mereka bahkan dapat menulis sendiri prosa dan puisi. Namun mereka tidak tahu apa pun tentang bisnis swasta karena mereka belum dilatih tentang data bisnis tersebut.
Oleh karena itu, agar model bahasa berguna untuk tujuan bisnis, mereka perlu melatih data kepemilikan.
Pipeline RAG memasukkan data tersebut dari database dan jenis penyimpanan data lainnya ke dalam model bahasa. Pencarian vektor, sementara itu, adalah cara untuk menemukan data yang relevan untuk pipeline RAG tersebut.
Vektor memungkinkan pencarian kesamaan sehingga data dalam jumlah besar dapat digunakan untuk melatih model. Mereka juga merupakan sarana untuk memberikan struktur pada tipe data tidak terstruktur seperti file teks, gambar, dan audio sehingga dapat digabungkan dengan data terstruktur dan digunakan untuk memberi masukan pada pipeline RAG dan model AI generatif.
Kemampuan pencarian vektor Couchbase memungkinkan hal berikut:
Kesamaan dan pencarian hibrid sehingga pelanggan dapat menggabungkan tipe data yang berbeda untuk melatih model dan aplikasi.
RAG ke meningkatkan akurasi model dan aplikasi AI dengan memberikan data dalam jumlah besar serta data terkini.
Latensi respons yang rendah sebagian disebabkan oleh kemampuan kolom baru yang kini berada dalam pratinjau pribadi yang memungkinkan pengguna memindahkan data secara bersamaan.
Dukungan untuk penjelajahan hubungan grafik yang membantu memetakan jaringan saraf dan menetapkan hierarki untuk kesamaan dalam data.
Selain itu, dengan memperluas pencarian vektor ke perangkat edge melalui Couchbase Lite, Couchbase bertujuan untuk memungkinkan perusahaan menjalankan aplikasi AI di mana saja.
Kemampuan tertanam itulah yang membedakan pengenalan pencarian vektor Couchbase dari kebanyakan vendor lain, menurut Catanzano.
“Bisnis berlomba untuk membangun aplikasi yang sangat personal, berperforma tinggi, dan adaptif yang didukung oleh AI generatif yang memberikan pengalaman luar biasa kepada pengguna akhir mereka,” katanya. “Ini adalah dorongan Couchbase pada pencarian vektor, yang mendukung aplikasi seluler dan perangkat IoT dengan pengambilan keputusan yang adaptif.”
Perbandingan pencarian vektor dan pencarian kata kunci.
Scott Anderson, wakil presiden senior manajemen produk dan operasi bisnis Couchbase, juga menunjukkan kemampuan yang tertanam sebagai cara bagi Couchbase untuk membedakan penawaran barunya dari yang diluncurkan oleh vendor manajemen data lainnya.
“Kami pikir hal ini akan membuka beberapa kasus penggunaan yang menarik bagi pelanggan… dan dapat membantu aplikasi mereka memberikan hasil yang lebih baik dan akurat,” katanya.
Retail dan layanan lapangan adalah dua contoh aplikasi potensial untuk pencarian vektor di edge.
Sementara itu, dorongan untuk menambahkan kemampuan pencarian vektor datang dari kombinasi umpan balik pelanggan dan pemantauan tren manajemen data oleh Couchbase sendiri, menurut Anderson.
“Ketika kami melihat ke belakang 12 hingga 14 bulan ke belakang, saat itulah era baru AI muncul, dan sangat jelas bagi kami bahwa ini adalah bidang yang perlu kami investasikan,” katanya. “Hal itu kemudian divalidasi selama beberapa kuartal terakhir oleh pelanggan yang membicarakannya [AI]membicarakan kasus penggunaannya dan membicarakan tentang penelusuran hibrid.”
Rencana masa depan
Ketika Couchbase bergerak maju setelah diperkenalkannya pencarian vektor dan integrasi dengan LangChain dan LlamaIndex, menambahkan lebih banyak integrasi untuk memperluas ekosistem Couchbase akan menjadi titik fokus, menurut Anderson.
“Itu sangat penting bagi kami,” katanya.
Selain itu, bagian dari peta jalan Couchbase adalah mengembangkan toko fitur di mana pelanggan dapat dengan mudah mengakses alat yang biasa digunakan selama pengembangan produk AI dan pembelajaran mesin.
Catanzano, sementara itu, mengatakan Couchbase dapat memperluas penawarannya dengan menambahkan lebih banyak dukungan untuk teknologi grafik.
Basis data grafik, seperti basis data vektor, memungkinkan pengguna mengembangkan jaringan saraf yang menghubungkan data lebih dari sekadar pencocokan tepat. Basis data relasional tradisional memungkinkan titik data untuk terhubung hanya ke satu titik data lain pada satu waktu, sehingga membatasi skala pencarian. Namun, database grafik memungkinkan titik data terhubung ke beberapa titik data lainnya untuk menemukan hubungan antar data dengan lebih baik.
Vendor termasuk Neo4j dan TigerGraph berspesialisasi dalam teknologi grafik.
“Mungkin kemampuan grafik [would be a way to expand],” kata Catanzano. “Mereka melengkapi vektor dengan melihat data secara lebih tiga dimensi, dan vendor database grafik percaya bahwa hal tersebut akan menjadi masa depan.”
Eric Avidon adalah penulis berita senior untuk Editorial TechTarget dan jurnalis dengan pengalaman lebih dari 25 tahun. Dia meliput analitik dan manajemen data.
Ikuti Update di WhatsApp