İşletmeler İçin Yapay Zekâ Entegrasyonu: Nereden Başlanır?
Yapay zekâ entegrasyonu bir teknoloji kararından çok bir kapsam kararı. Doğru başlangıç noktasını seçen şirketler haftalar içinde sonuç alıyor; yanlış seçenler aylarca demo döngüsünde kalıyor.
Son iki yılda “bize de yapay zekâ ekleyelim” cümlesi neredeyse her toplantıya girdi. Sonuç çoğu zaman bir sohbet balonu oldu ve kimse kullanmadı. Sorun modelde değil, seçilen işte.
Doğru başlangıç işini seçmek
İyi bir ilk yapay zekâ projesi şu dört özelliği taşır:
- Sık tekrarlanır. Ayda üç kez yapılan bir iş otomatikleştirmeye değmez.
- Metin ağırlıklıdır. Dil modelleri en çok metni okuma, özetleme, sınıflandırma ve üretme işlerinde kazandırır.
- Hata toleransı vardır. İnsan onayıyla ilerleyebilen işler ilk adım için idealdir.
- Ölçülebilir. “Destek yanıt süresi 6 saatten 40 dakikaya indi” gibi bir cümle kurulabilmeli.
RAG: kendi verinizle cevap veren sistem
Genel bir dil modeli sizin fiyat listenizi, iç prosedürlerinizi veya müşteri geçmişinizi bilmez. RAG (Retrieval-Augmented Generation) tam da bunu çözer: soru geldiğinde önce kendi verinizde ilgili parçalar bulunur, sonra model yalnızca o parçalara dayanarak cevap üretir.
Kurulumun adımları
- Kaynakları toplayın: dokümanlar, ürün kataloğu, SSS, geçmiş destek yazışmaları.
- Parçalayın ve vektörleştirin: metinler anlamlı bölümlere ayrılıp gömme (embedding) vektörlerine çevrilir.
- Arama katmanını kurun: anlamsal arama ile klasik anahtar kelime aramasını birlikte kullanmak doğruluğu belirgin artırır.
- Cevabı kaynağa bağlayın: her yanıtın altında hangi dokümandan geldiği görünmeli. Güvenin tek yolu bu.
- Bilmiyorum diyebilsin: kaynak bulunamadığında model uydurmak yerine devretmelidir.
Maliyeti kontrol altında tutmak
Yapay zekâ maliyeti kullanım başına işler; bu yüzden mimari kararlar doğrudan faturaya yansır. Uygulamada en çok işe yarayan dört önlem:
| Önlem | Etkisi |
|---|---|
| Model kademelendirme (basit işlere küçük model) | Tipik olarak %40–70 tasarruf |
| Yanıt önbelleği (aynı soru tekrar sorulduğunda) | Tekrarlı sorularda neredeyse tam tasarruf |
| İstem (prompt) kısaltma ve bağlam budama | Girdi maliyetinde belirgin düşüş |
| Toplu (batch) işleme — anlık olmayan işler için | Genelde yarı fiyat |
Bunların yanında bir bütçe tavanı ve kullanım limiti koymak şart. Kontrolsüz bir entegrasyonun ilk sürprizi genelde ay sonunda gelir.
Pilottan üretime geçiş
Demoda çalışan bir yapay zekâ özelliğinin üretimde ayakta kalması için dört şey gerekir: değerlendirme seti (aynı 50 soruyla her değişiklikten sonra ölçüm), insan onay adımı, kayıt ve izleme, geri bildirim düğmesi. Bunlar olmadan ürün her güncellemede sessizce kötüleşebilir.
Yapay zekâ projelerinde asıl mühendislik, modeli çağırmak değil; ne zaman çağırmayacağına karar vermektir.
Hangi modeli seçmeli?
Tek bir “en iyi model” yok; işe göre seçilir. Pratikte kurduğumuz düzen şu: her iş için en küçük yeterli model, ve sadece gerektiğinde büyüğüne yükseltme.
| İş | Uygun model sınıfı | Neden |
|---|---|---|
| Sınıflandırma, etiketleme, yönlendirme | Küçük/hızlı model | Basit karar, düşük maliyet, milisaniyeler |
| Özetleme, yeniden yazma | Orta seviye model | Kalite/maliyet dengesi en iyi burada |
| Çok adımlı akıl yürütme, kod, analiz | Büyük model | Hata maliyeti yüksek işler |
| Anlamsal arama (RAG erişimi) | Gömme (embedding) modeli | Üretim değil, benzerlik hesabı |
| Hassas/kapalı veri | Kendi altyapınızda açık model | Veri dışarı çıkmaz |
Model seçimini koda gömmeyin. Bir yapılandırma katmanı arkasına alın; böylece altı ay sonra çıkan daha ucuz ve daha iyi bir modele geçmek tek satırlık değişiklik olur. Bu alanda modeller hızla değişiyor — mimarinizin buna hazır olması, model seçiminden daha önemli.
Ekipte kim ne yapar?
Yapay zekâ projeleri yalnızca geliştirici işi değil. Çalışan kurulumlarda üç rol var:
- Alan uzmanı: doğru cevabın ne olduğunu bilen kişi. Değerlendirme setini bu kişi hazırlar; olmadan kalite ölçülemez.
- Geliştirici: veri hattı, erişim katmanı, entegrasyon ve izleme.
- Karar verici: hangi hata seviyesinin kabul edilebilir olduğunu belirleyen kişi. “%90 doğruluk yeterli mi?” sorusunun cevabı teknik değil, ticari bir karardır.
Veri güvenliği ve KVKK
Kişisel veri içeren metinleri modele göndermeden önce maskeleyin; hangi verinin nereye gittiği yazılı olsun; sağlayıcı sözleşmesinde verinin eğitimde kullanılmayacağı teyit edilsin. Hassas senaryolarda kendi altyapınızda çalışan açık modeller de değerlendirilebilir.
Hangi işin sizin için doğru başlangıç olduğundan emin değilseniz, mevcut süreçlerinizi konuşarak başlayabiliriz. Kısa bir keşif görüşmesi çoğu zaman iki saatlik bir sunumdan daha yol gösterici oluyor.
Sık sorulan sorular
Yapay zekâ entegrasyonu ne kadar sürer?
Net tanımlanmış tek bir kullanım senaryosu için pilot sürüm genellikle 2–6 haftada devreye alınır. Süreyi belirleyen ana etken veri hazırlığıdır; dokümanlar derli topluysa süre kısalır.
RAG nedir ve neden gereklidir?
RAG, dil modelinin cevap üretmeden önce kendi verinizden ilgili bölümleri bulmasını sağlayan mimaridir. Modelin uydurma yapmasını azaltır ve her yanıtın hangi kaynaktan geldiğinin gösterilebilmesini mümkün kılar.
Yapay zekâ kullanımının maliyeti nasıl kontrol edilir?
Basit işleri küçük modellere yönlendirmek, tekrar eden soruları önbelleğe almak, istemleri kısaltmak ve anlık olmayan işleri toplu işlemek maliyeti belirgin biçimde düşürür. Ayrıca aylık bütçe tavanı ve kullanıcı başına limit tanımlanmalıdır.