Pydantic memperkenalkan model agnostik, platform pengembangan agen AI

Agar tidak kewalahan dengan banyaknya pengumuman AI dari AWS re:Invent minggu ini, Bengahtim di belakang pemimpin perpustakaan validasi data untuk bahasa pemrograman Python open source, dilepaskan PydanticAIkerangka kerja agen baru untuk menyederhanakan pengembangan aplikasi tingkat produksi yang didukung oleh Model Bahasa Besar (LLM).

Saat ini dalam versi beta, PydanticAI menyediakan keamanan jenis, modularitas, dan validasi untuk pengembang yang ingin membuat alur kerja berbasis LLM yang skalabel. Sama seperti kode inti Pydantic, memang demikian sumber terbuka di bawah lisensi MITini berarti dapat digunakan untuk aplikasi komersial dan kasus penggunaan perusahaan, sehingga kemungkinan besar akan menarik bagi banyak bisnis mereka sudah menggunakan Pydantic.

Sejak peluncuran PydanticAI pada tanggal 2 Desember, dari apa yang saya lihat, respons awal dari pengembang dan komunitas pembelajaran mesin/AI online sebagian besar positif.

Misalnya, Dekan @ codevore1 menulis X bahwa PydanticAI tampak “menjanjikan!” meskipun masih dalam versi beta.

Aleks Volkov, pendiri dan CEO layanan terjemahan video Targum, diterbitkan oleh X Pertanyaan: Bagaimana pesaing LangChain?

Ekonom keuangan dan kuantitatif Raja Patnaik juga menyatakan X “sistem agen PydanticAI yang baru tampak hebat. Sepertinya instruktur @jxnlco dan campuran @OpenAI Kawanan.“

Agen sebagai wadah

Inti dari PydanticAI adalah arsitektur berbasis agennya. Setiap agen bertindak sebagai wadah untuk mengelola interaksi dengan LLM dengan menentukan perintah sistem, alat, dan keluaran terstruktur.

Agen memungkinkan pengembang menyederhanakan logika aplikasi dengan membangun alur kerja langsung di Python, memungkinkan kombinasi instruksi statis dan masukan dinamis untuk mendorong interaksi.

Sistem ini dirancang untuk mengakomodasi kasus penggunaan yang sederhana dan kompleks, mulai dari sistem agen tunggal hingga aplikasi multi-agen yang dapat berkomunikasi dan berbagi status.

Samuel Colvin, Pembuat Bengah yang awalnya diluncurkan pada tahun 2017, sebelumnya mengisyaratkan perubahan tersebut, menulis di situs web Pydantic: “Seiring dengan pertumbuhan Pydantic, kami kini membuat produk lain berdasarkan prinsip yang sama – untuk membuat alat paling canggih mudah digunakan.

Fitur utama agen PydanticAI

Agen PydanticAI menyediakan cara yang terstruktur dan fleksibel untuk berinteraksi dengan LLM:

• Model-Agnostik: Agen dapat bekerja dengan LLM seperti OpenAI, Gemini, dan Groq dengan dukungan antropik terjadwal. Memperluas kompatibilitas ke model tambahan mudah dilakukan dengan antarmuka yang sederhana.

• Perintah sistem dinamis: Agen dapat menggabungkan instruksi statis dan run-time untuk menyesuaikan interaksi dengan konteks aplikasi.

• Jawaban terstruktur: Setiap agen memastikan validasi keluaran LLM menggunakan model Pydantic, memastikan respons yang aman dan dapat diprediksi.

• Alat dan fitur: Agen dapat memanggil fungsi atau mengambil data sesuai kebutuhan saat runtime, memfasilitasi pembuatan augmentasi pemindaian dan pengambilan keputusan secara real-time.

• Injeksi ketergantungan: Kerangka kerja injeksi ketergantungan baru mendukung alur kerja modular, menyederhanakan integrasi dengan database atau API eksternal.

• Respons streaming: Agen memproses keluaran streaming dengan konfirmasi, menjadikannya ideal untuk kasus penggunaan yang memerlukan umpan balik berkelanjutan atau keluaran besar.

Kasus penggunaan perusahaan yang praktis

Sistem agen memungkinkan pengembang membangun berbagai aplikasi dengan overhead minimal. Misalnya:

• Agen layanan pelanggan: Agen dukungan bank dapat menggunakan PydanticAI untuk mengakses data pelanggan secara dinamis, menawarkan saran yang disesuaikan, dan menilai tingkat risiko untuk masalah keamanan. Injeksi ketergantungan memungkinkan Anda menghubungkan agen ke sumber data langsung dengan lancar.

• Permainan interaktif: Pengembang dapat menggunakan agen untuk membuat fitur interaktif, seperti permainan dadu atau kuis, di mana jawaban dihasilkan secara dinamis berdasarkan masukan pengguna dan logika yang telah ditentukan sebelumnya.

• Otomatisasi alur kerja: Sistem multi-agen dapat diterapkan untuk menangani tugas otomatisasi yang kompleks, di mana agen memainkan peran berbeda dan berkolaborasi dalam tugas.

Dibuat untuk pengembang

PydanticAI menekankan ergonomi pengembang dan alur kerja asli Python:

• Kontrol Vanila Python: Tidak seperti kerangka kerja lainnya, PydanticAI tidak memperkenalkan lapisan abstraksi baru pada alur kerja. Pengembang dapat mengandalkan praktik terbaik Python sambil mempertahankan kontrol penuh atas logikanya.

• Ketik Keamanan: Dibangun di Pydantic, sistem memastikan kebenaran jenis dan validasi di setiap langkah, mengurangi kesalahan dan meningkatkan keandalan.

• Integrasi logfire: Alat pemantauan dan penyesuaian bawaan memungkinkan pengembang memantau kinerja agen dan menyesuaikan perilaku secara efektif.

Sebagai rilis beta awal, API PydanticAI dapat berubah, namun sudah menunjukkan potensi besar untuk mengubah cara pengembang membangun sistem berbasis LLM. Tim Pydantic secara aktif mencari masukan dari komunitas pengembang untuk lebih meningkatkan sistem.

PydanticAI mewakili ekspansi tim ke dalam solusi kecerdasan buatan berdasarkan keberhasilan perpustakaan Pydantic. Dengan berfokus pada agen sebagai abstraksi inti, kerangka kerja ini menawarkan cara yang kuat namun terjangkau untuk membangun aplikasi yang andal dan dapat diskalakan menggunakan LLM.