Dil modelleri ucuzlayıp erişilebilir hale geldikçe çoğu ürünün ilk refleksi aynı oldu: bir sohbet kutusu eklemek. Ancak sohbet, kullanıcının ne isteyeceğini bildiği durumlarda işe yarar. Çoğu üründe kullanıcı ne isteyeceğini değil, hangi sonucu istediğini bilir.
AI'ın iyi olduğu işler
- Dağınık girdiyi yapılandırmak: serbest metni forma, tabloya veya etikete çevirmek.
- Özetlemek: uzun belgeden karar için gereken kısmı çıkarmak.
- Taslak üretmek: sıfırdan başlamanın pahalı olduğu yerde ilk sürümü vermek.
- Eşleştirmek: benzer kayıtları, tekrarları veya ilgili içerikleri bulmak.
AI'ın kötü olduğu işler
Kesin doğruluk gerektiren hesaplama, mevzuat yorumu ve tek doğrusu olan sorgular dil modeline bırakılmaz. Bu tür işlerde model yalnızca arayüz katmanında kullanılabilir: kullanıcının niyetini anlar, sonucu üreten şey deterministik koddur. Yüzdebin'deki hesaplayıcılar bu ayrımın somut örneği; sonucu üreten formüldür, model değil.
Güven tasarımı
| Risk | Tasarım önlemi |
|---|---|
| Model yanlış üretebilir | Kaynağı göster, çıktıyı düzenlenebilir bırak |
| Kullanıcı sınırı bilmiyor | Ne yapabildiğini örneklerle söyle |
| Sonuç geri alınamaz | Onay adımı koy, otomatik uygulama yapma |
İyi AI özelliği, modelin görünmediği özelliktir: kullanıcı sonucu alır, aracı fark etmez.