Kurumsal yapay zeka asistanı nasıl kurulur? Şirket verisiyle çalışan chatbot (RAG) rehberi
Genel amaçlı bir yapay zeka sohbet aracı, şirketinizin iade politikasını, ürün kataloğunu ya da iç prosedürlerini bilmez. Bildiğini sanıp uydurabilir de. Kurumsal yapay zeka asistanı ise cevabını yalnızca sizin onayladığınız kaynaklardan üretir ve hangi dokümana dayandığını gösterebilir. Bu yazıda böyle bir asistanın nasıl çalıştığını, kurulum adımlarını ve projeyi başarısız yapan yaygın hatalar ele alınıyor.
Asistan neyi çözer?
En hızlı geri dönüş veren kullanım alanları genellikle şunlardır:
- Müşteri desteği: Sipariş, kargo, iade, garanti ve ürün sorularına web sitesi ya da WhatsApp üzerinden 7/24 yanıt.
- İç bilgi tabanı: Çalışanların prosedür, İK yönetmeliği, teknik doküman ve sözleşme şablonlarında aradığını saniyeler içinde bulması.
- Satış desteği: Ürün özelliklerini, fiyat listelerini ve teklif geçmişini bilen, satış ekibine taslak cevap hazırlayan asistan.
- Teknik servis: Kullanım kılavuzları ve arıza kayıtlarından olası çözüm adımlarını öneren yardımcı.
Ortak nokta: soruların büyük kısmı tekrar eder ve cevabı zaten bir dokümanda yazılıdır.
RAG nedir, neden gerekir?
RAG (Retrieval-Augmented Generation, "erişimle güçlendirilmiş üretim") yaklaşımında model, soruyu cevaplamadan önce şirket dokümanlarınız içinde arama yapar, ilgili paragrafları bulur ve cevabı yalnızca bu paragraflara dayanarak yazar. Modeli şirket verisiyle yeniden eğitmeye (fine-tuning) gerek kalmaz.
Bu yaklaşımın üç büyük avantajı vardır:
- Güncellik: Fiyat listesi değiştiğinde dokümanı güncellemek yeterlidir; model yeniden eğitilmez.
- Kaynak gösterme: Asistan cevabın hangi dokümandan geldiğini belirtebilir, kullanıcı doğrulayabilir.
- Yetkilendirme: Her kullanıcı yalnızca erişim yetkisi olan dokümanlardan cevap alır.
Mimari: beş parça
Tipik bir kurumsal asistan şu parçalardan oluşur:
- Veri kaynakları: PDF, Word, web sayfaları, Google Drive, Notion, destek kayıtları, veritabanı tabloları.
- İçe aktarma ve parçalama: Dokümanlar anlamlı bölümlere ayrılır (çoğunlukla birkaç paragraflık parçalar), başlık ve kaynak bilgisi korunur.
- Vektör veritabanı: Her parçanın anlamını temsil eden bir "embedding" hesaplanır ve aranabilir şekilde saklanır. PostgreSQL üzerinde pgvector, küçük ve orta ölçekli projeler için çoğu zaman yeterlidir.
- Dil modeli: Bulunan parçalar ve kullanıcının sorusu modele verilir. OpenAI, Anthropic (Claude) ve Google (Gemini) modelleri bu iş için yaygın olarak kullanılır.
- Arayüz ve entegrasyon: Web sitesi sohbet balonu, WhatsApp, Slack/Teams ya da iç panel. Gerekirse CRM veya sipariş sistemine bağlanarak canlı veri de sorgulanır.
Kurulum adımları
1. Kapsamı daraltın
"Her şeyi bilen asistan" ile başlamak en sık yapılan hatadır. İlk sürüm için tek bir kullanım alanı seçin (örneğin yalnızca kargo ve iade soruları) ve en sık sorulan 30-50 soruyu listeleyin. Bu liste hem kapsamı belirler hem de daha sonra test seti olarak kullanılır.
2. Dokümanları temizleyin
Asistanın kalitesi, beslendiği dokümanların kalitesini geçemez. Çelişen sürümler, eski fiyat listeleri ve taranmış ama metne çevrilmemiş PDF'ler cevap kalitesini düşürür. Her doküman için bir sahip ve güncelleme sıklığı belirlemek, projenin uzun vadede ayakta kalmasını sağlar.
3. Parçalama ve arama stratejisini test edin
Parça boyutu, başlıkların korunması ve anlamsal aramanın anahtar kelime aramasıyla birleştirilmesi (hibrit arama), doğru paragrafın bulunmasında belirleyicidir. Türkçe içerikte ek ve çekim farklılıkları nedeniyle hibrit arama genellikle daha iyi sonuç verir.
4. Cevap kurallarını yazın
Modele verilen sistem talimatı şu kuralları açıkça içermelidir: yalnızca verilen kaynaklara dayan, kaynakta yoksa "bu konuda bilgi bulunamadı" de ve kullanıcıyı insana yönlendir, fiyat ve tarih gibi kritik bilgileri kaynaktan aynen aktar, kaynağı belirt.
5. Ölçün, sonra yayınlayın
İlk adımda hazırlanan soru listesiyle asistanı test edin: doğru kaynak bulundu mu, cevap doğru mu, "bilmiyorum" demesi gereken yerde dedi mi? Bu test, her doküman ya da model değişikliğinden sonra tekrar çalıştırılmalıdır.
6. İnsana devir yolunu tasarlayın
İyi bir asistan her soruyu cevaplamaya çalışmaz. Şikâyet, iade onayı, özel fiyat talebi gibi durumlarda konuşmayı özetleyip ilgili çalışana devretmelidir. Bu devir, müşteri memnuniyetini asistanın cevap oranından daha fazla etkiler.
Maliyet kalemleri
Bir asistanın maliyeti üç kalemden oluşur:
- Kurulum: Veri hazırlığı, entegrasyon, arayüz ve test. Tek kullanım alanlı bir ilk sürüm genellikle 2-4 haftada devreye alınır.
- Model kullanımı: Soru başına ödenen API ücreti. Kısa ve orta uzunlukta cevaplarda soru başına maliyet çoğu işletme için düşüktür; asıl belirleyici, her soruda modele gönderilen doküman parçası miktarıdır.
- Bakım: Doküman güncellemeleri, test setinin genişletilmesi, yeni kullanım alanları.
Yatırımın geri dönüşünü hesaplarken asistanın üstlendiği soru sayısını, bir sorunun çalışana maliyetini ve gece/hafta sonu kaçan talepleri birlikte değerlendirmek gerekir.
Veri güvenliği
Model sağlayıcılarının işletmelere yönelik API'lerinde gönderilen veriler varsayılan olarak model eğitimi için kullanılmaz; yine de hangi verinin dışarı gönderildiği bilinçli olarak tasarlanmalıdır. Kişisel veriler mümkünse maskelenmeli, erişim yetkileri doküman düzeyinde uygulanmalı ve konuşma kayıtlarının ne kadar süre saklanacağı belirlenmelidir. Türkiye'deki işletmeler için KVKK'nın yurt dışına aktarım kuralları da ayrıca değerlendirilmelidir; bu konu yapay zeka projelerinde KVKK rehberinde ayrıntılı olarak ele alınmıştır.
Sık yapılan hatalar
- Dokümanları hiç temizlemeden yüklemek: Asistan eski fiyatı yeni fiyatla karıştırır.
- Test seti olmadan yayına almak: Kalite ölçülmediği için iyileşip iyileşmediği bilinmez.
- "Bilmiyorum" demesine izin vermemek: Model boşluğu uydurmayla doldurur.
- İnsana devir yolunu unutmak: Kullanıcı çözümsüz kalır, güven kaybolur.
- Tek seferlik proje olarak görmek: Dokümanlar değiştikçe asistanın da bakımı gerekir.
Sonuç
Kurumsal yapay zeka asistanı, doğru kurgulandığında tekrar eden soruların önemli bir kısmını üstlenir ve ekibin zamanını gerçekten insan gerektiren işlere ayırır. Başarının anahtarı modelden çok kapsam, veri kalitesi ve ölçümdür: küçük bir kullanım alanıyla başlamak, test setiyle ölçmek ve kademeli olarak genişletmek.
uurstudios, kurumsal yapay zeka asistanlarını keşif görüşmesiyle başlayıp pilot kullanım alanı, test seti ve entegrasyonlarla birlikte devreye alır. Yapay zeka uygulamaları hizmeti sayfasından ayrıntılara ulaşabilir ya da iletişim formu üzerinden ihtiyacınızı paylaşabilirsiniz.