Pada tanggal 12 November 2024, Tim PT. Teltics Media menghadiri acara MongoDB x Google Cloud GenAI Workshop. Acara ini berisi tentang inovasi teknologi berbasis Generative AI (GenAI) dan peran pentingnya dalam membangun aplikasi modern. Workshop ini menghadirkan para ahli dari Google Cloud dan MongoDB untuk membahas teknologi unggulan yang menjadi landasan GenAI.

Berikut adalah insight utama dari workshop tersebut.

Generative AI: Revolusi Teknologi untuk Masa Depan

Generative AI telah berkembang dari sekadar alat kreatif menjadi elemen inti transformasi digital. Gartner memprediksi bahwa pada 2026, lebih dari 80% perusahaan akan mengintegrasikan model atau API Generative AI dalam operasi mereka. Teknologi ini memungkinkan tidak hanya penciptaan konten baru tetapi juga pemecahan masalah spesifik menggunakan data yang dilatih secara khusus.

Google Cloud memperkenalkan beberapa teknologi mutakhir:

1. Gemini 1.5 Pro
   Model AI canggih dengan kapasitas hingga 2 juta token, memungkinkan pengolahan teks, audio, video, dan kode secara serempak.
2. Imagen 3
   Model generatif yang mampu membuat gambar berkualitas tinggi dari deskripsi teks.
3. Vertex AI
   Platform end-to-end untuk membangun, menguji, dan mengintegrasikan model AI, mendukung kolaborasi dengan model open-source seperti Llama 2 dan Claude 3.

Perbedaan antara Gemma Open Model dan Gemini on Vertex AI

1. Gemma Open Model

Gemma Open Model adalah keluarga model AI ringan dan open-source yang dirancang untuk fleksibilitas dan pengembangan yang efisien.

Karakteristik Utama:

• Sifat Open-Source:
  Gemma dirancang untuk penggunaan yang terbuka, memungkinkan pengembang memodifikasi dan menyesuaikan model sesuai kebutuhan spesifik mereka.
• Kapasitas Model yang Lebih Ringan:
  Cocok untuk aplikasi yang membutuhkan model dengan performa tinggi tetapi tetap hemat sumber daya.
• Ukuran Model:
  Tersedia dalam konfigurasi seperti 2B (2 miliar parameter) dan 7B (7 miliar parameter), menjadikannya lebih kecil dibandingkan model yang sangat besar seperti Gemini.
• Fokus:
  Ideal untuk pengembang dan organisasi yang ingin menggunakan model AI generatif tanpa ketergantungan penuh pada infrastruktur cloud.

Kegunaan:

• Mengembangkan aplikasi AI ringan dan spesifik.
• Fleksibilitas untuk eksperimen dengan kode sumber.
• Efisiensi dalam skenario yang tidak membutuhkan model dengan kapasitas besar.

2. Gemini on Vertex AI

Gemini on Vertex AI adalah rangkaian model AI premium milik Google yang dirancang untuk performa tinggi dengan integrasi mendalam ke dalam ekosistem Google Cloud.

Karakteristik Utama:

• Proprietary Model:
  Dibangun oleh Google dengan fitur dan kinerja terdepan, seperti kemampuan multimodal (teks, gambar, audio, video).
• Skalabilitas Tinggi:
  Didesain untuk aplikasi enterprise yang membutuhkan daya pemrosesan besar dan respons cepat.
• Kapasitas Model yang Besar:
  Misalnya, Gemini 1.5 Pro memiliki kapasitas hingga 2 juta token, mendukung pemrosesan data kompleks dalam berbagai format.
• Integrasi dengan Vertex AI:
  Terhubung langsung dengan platform Vertex AI, memberikan alat untuk pelatihan, tuning, dan pengelolaan model secara end-to-end.
• Fitur Multimodal:
  Mampu memahami dan menghasilkan data dari berbagai sumber (teks, gambar, audio, video).

Kegunaan:

• Membangun aplikasi AI kelas enterprise dengan kebutuhan komputasi tinggi.
• Mendukung aplikasi generatif untuk teks, gambar, atau audio secara bersamaan.
• Meningkatkan efisiensi pengembangan dengan alat bawaan di Vertex AI.

Ringkasan Perbedaan

Gemma Open Model cocok untuk pengembangan ringan dan eksperimentasi, sementara Gemini on Vertex AI dirancang untuk kebutuhan perusahaan besar dengan integrasi mendalam ke dalam ekosistem Google Cloud.

MongoDB Atlas: Pondasi Data untuk Aplikasi AI

MongoDB menjadi bagian integral dari pengembangan aplikasi Generative AI dengan menyediakan pengelolaan data yang efisien melalui fitur seperti:

• Atlas Vector Search
  Alat ini memungkinkan pencarian semantik menggunakan embedding vektor, memberikan kemampuan pencarian berbasis konteks yang relevan.
• Model Data Dokumen
  Menyederhanakan pengelolaan data terstruktur dan tidak terstruktur dalam satu dokumen, mengatasi kekakuan basis data relasional tradisional.

Teknologi ini mendukung pendekatan Retrieval-Augmented Generation (RAG), yang mengintegrasikan data operasional dan vektor untuk menghasilkan respons berbasis konteks yang akurat.

Keunggulan Menggunakan GCP dan MongoDB

Menggabungkan kekuatan Google Cloud dan MongoDB, solusi ini dirancang untuk memberikan manfaat berikut:

1. Keamanan dan Privasi Tingkat Tinggi
   Fitur seperti VPC-SC dan CMEK memastikan bahwa data pengguna terlindungi dari potensi ancaman.
2. Kinerja yang Optimal
   Node pencarian khusus dalam MongoDB Atlas mampu meningkatkan kecepatan query hingga 60%, memberikan efisiensi tinggi untuk aplikasi berbasis AI.
3. Fleksibilitas dan Skalabilitas
   Dengan dukungan sharding horizontal, MongoDB memastikan performa optimal seiring pertumbuhan data.

Penerapan dalam Bisnis

Beberapa use case yang diangkat dalam workshop ini menunjukkan bagaimana Generative AI dan MongoDB Atlas dapat diterapkan di berbagai sektor:

1. Pencarian Properti
   Kombinasi pencarian gambar berbasis vektor, data geospasial, dan harga menghasilkan rekomendasi properti yang sesuai dengan preferensi pengguna.
2. Pemrosesan Klaim Asuransi
   AI membantu mempercepat klasifikasi teks dan gambar, serta menghasilkan laporan otomatis untuk proses klaim.
3. Interaksi Pelanggan
   Chatbot berbasis AI meningkatkan pengalaman pelanggan dengan memberikan respons yang kontekstual dan personal.

Glosarium Generative AI, GCP, dan MongoDB Vector Search :

A

• API (Application Programming Interface)
  Antarmuka yang memungkinkan dua aplikasi berbeda untuk berkomunikasi dan bertukar data.

• Atlas Vector Search
  Fitur dari MongoDB Atlas untuk melakukan pencarian berbasis embedding vektor, memungkinkan pencarian semantik dan relevansi data tinggi.

• AI (Artificial Intelligence)
  Teknologi yang memungkinkan mesin untuk meniru kecerdasan manusia, seperti belajar, memecahkan masalah, dan membuat keputusan.

C

• CMEK (Customer Managed Encryption Key)
  Fitur keamanan Google Cloud yang memungkinkan pelanggan menggunakan kunci enkripsi mereka sendiri untuk melindungi data.

• Contextual Search
  Pencarian yang menggunakan konteks tertentu, seperti data terkait atau embedding vektor, untuk memberikan hasil yang lebih relevan.

D

• Dataset
  Kumpulan data yang digunakan untuk melatih atau menguji model AI.

• Document Model
  Pendekatan penyimpanan data MongoDB yang menggabungkan data terstruktur dan tidak terstruktur dalam satu dokumen.

G

• GCP (Google Cloud Platform)
  Layanan cloud computing yang menawarkan infrastruktur, keamanan, dan alat pengembangan untuk membangun aplikasi.

• Generative AI
  Subbidang AI yang dapat menghasilkan konten baru seperti teks, gambar, audio, atau video, berdasarkan data yang ada.

• Gemini 1.5 Pro
  Model AI Google dengan kapasitas 2 juta token, mendukung pengolahan teks, audio, video, dan kode secara simultan.

I

• Imagen 3
  Model AI dari Google untuk pembuatan gambar berkualitas tinggi berdasarkan deskripsi teks.

L

• LLM (Large Language Model)
  Model AI yang dirancang untuk memahami dan menghasilkan teks dalam bahasa alami.

• Llama 2
  Model open-source AI yang digunakan untuk pemrosesan bahasa alami, didukung oleh Vertex AI.

M

• MongoDB Atlas
  Platform basis data berbasis cloud yang mendukung penyimpanan dan pengelolaan data dengan fitur canggih seperti pencarian vektor dan sharding.

P

• Privacy by Design
  Pendekatan pengembangan sistem yang memastikan perlindungan privasi dan keamanan data pengguna sejak tahap awal desain.

• Prototyping
  Proses menciptakan model awal dari aplikasi atau sistem untuk menguji ide dan fungsi.

R

• RAG (Retrieval-Augmented Generation)
  Teknik yang menggabungkan model AI dengan data eksternal untuk memberikan jawaban berbasis konteks yang lebih akurat.

• RLHF (Reinforcement Learning with Human Feedback)
  Pendekatan pelatihan model AI yang menggunakan masukan manusia untuk meningkatkan kinerja model.

S

• Sharding
  Teknik distribusi data di MongoDB untuk memastikan skalabilitas dan performa tinggi dengan membagi data ke beberapa server.

T

• Token
  Unit terkecil dari data yang diproses oleh model bahasa, seperti kata atau karakter.

• Tuning
  Proses penyesuaian model AI agar lebih sesuai dengan kebutuhan spesifik pengguna, seringkali dengan dataset kecil.

V

• Vertex AI
  Platform Google Cloud untuk membangun, melatih, dan mengintegrasikan model AI secara end-to-end.

• VPC-SC (Virtual Private Cloud Service Controls)
  Fitur Google Cloud untuk melindungi data dan mencegah akses yang tidak sah.