Döngüye insanı koyarak üretici yapay zekanın risklerini azaltma

“Kötü yapay zeka için sürdürülebilir bir kullanım durumu yok.”

Sertifikalı yapay zeka uzmanı ve Pega’nın Kararlar ve Analitiklerden Sorumlu Başkan Yardımcısı Dr. Rob Walker, geçen hafta PegaWorld iNspire konferansında hileli yapay zeka üzerine bir yuvarlak masa tartışmasını böyle özetledi.

Opak ve şeffaf algoritmalar arasındaki farkı açıkladı. AI spektrumunun bir ucunda, opak algoritmalar yüksek hızda ve yüksek düzeyde doğrulukla çalışır. Sorun şu ki, yaptıklarını nasıl yaptıklarını aslında açıklayamıyoruz. Bu, örneğin ipotek başvuruları veya krediler hakkında kararlar vermek gibi sorumluluk gerektiren görevler için onları bir şekilde işe yaramaz hale getirmek için yeterlidir.

Öte yandan, şeffaf algoritmaların yorumlama avantajı vardır. Sadece daha az güvenilirler. Bunun, size açıklayabilecek bir doktor tarafından reçete edilen bir tıbbi tedavi süreci ile açıklayamayan ancak doğru olma olasılığı daha yüksek olan bir makine arasında seçim yapmak gibi olduğunu söyledi. Bu bir seçim ve kolay değil.

Ancak günün sonunda, tüm kararları en güçlü yapay zeka araçlarına teslim etmek, olası bir haydut olma riskiyle gerçekten sürdürülebilir değil.

Aynı konferansta, Pega’nın baş teknoloji sorumlusu Don Schuerman, otonom bir işletme oluşturmaya yardımcı olacak yapay zeka destekli bir çözüm olan “otomatik pilot” vizyonunu tartıştı. “Umarım 2024’te bir farkımız olur. Bence o yönetimi devralacak ve yönetecek.” Aslında, öyle olacak: Örneğin, çok azımız, yalnızca otomatik pilotun olduğu ve döngüde insan olmayan bir uçağa binmek isteriz.

döngüdeki insan

İnsanları döngüde tutmak, konferansta Pega’nın sorumlu yapay zeka taahhüdünün altını çizen tutarlı bir mantraydı. Pega, 2017’den bu yana şirketlerin her yapay zeka modeli için değişen bir ölçekte şeffaflık düzeyini artırmasına ve azaltmasına olanak tanıyan “T-Switch”i piyasaya sürdü. “Örneğin, pazarlama görüntülerini kategorize eden opak bir derin öğrenme modeli kullanmak risklidir. Öte yandan, adil kredi verme uygulamaları için katı düzenlemelere tabi olan bankalar, kredi tekliflerinin adil dağıtımını kanıtlamak için son derece şeffaf yapay zeka modellerine ihtiyaç duyar.” Bega açıkladı.

Bununla birlikte, üretici yapay zeka tamamen başka bir risk düzeyi getirir – en azından pazarlama gibi müşteriyle karşı karşıya olunan işler için değil. Özellikle, doğruyu söylemesi veya bir şeyler uydurması (“halüsinasyonlar”) gerçekten önemli değil. Bunun net olmadığı durumlarda, bu riskler üretken yapay zekanın herhangi bir uygulamasında ortaya çıkar ve Pega’nın çözümleriyle sınırlı değildir.

Pega Yapay Zeka Laboratuvarı Direktörü Peter van der Puten, “Neyin en olası ve makul olduğunu ve duymak istediğimizi tahmin ediyor” dedi. Ama bu aynı zamanda sorunu da açıklıyor. “Bir şey söyleyebilir ve ardından makul açıklamalar yapmakta çok iyidir; ayrıca geri adım atabilir.” Başka bir deyişle, aynı görevi iki kez seçerseniz, farklı – muhtemelen daha iyi – bir yanıt verebilir.

PegaWorld’den hemen önce Pega, genel AI sohbet botları, otomatikleştirilmiş iş akışları ve içerik optimizasyonu dahil olmak üzere 20 AI destekli jeneratör “güçlendiricisini” duyurdu. Putin, “Başlattığımız şeye dikkatlice bakarsanız, neredeyse hepsinin döngüsünde bir insan var. Yüksek getiri, düşük risk. Bu, insanlara erişim vermek yerine jenerik AI tabanlı ürünler geliştirmenin yararıdır.” jenerik yapay zeka teknolojisi.”

Pega GenAI, daha sonra, belirli görevleri gerçekleştirmek için araçlar sağlar (arka planda çalışan büyük dil modelleri ile); İnsan komutlarını bekleyen sadece boş bir tuval değil.

Yapay zeka destekli bir sohbet robotu gibi bir şey için, döngüde bir insana duyulan ihtiyaç yeterince açıktır. Schurman, “Pek çok şirketin müşterilerinin önüne geniş bir dil konuşma modeli koyma konusunda rahat hissetmesi için biraz zaman geçeceğini düşünüyorum” dedi. “Üretken bir yapay zekanın ürettiği her şey – Bir müşterinin önüne koymadan önce bir insanın ona bakmasını istiyorum.”

Günde dört milyon etkileşim

Ancak insanı döngüye sokmak, ölçeklenebilirlikle ilgili soruları gündeme getiriyor.

Hollandalı finansal hizmetler ve finansal hizmetler şirketi Rabobank’ın dijital hizmetlerden sorumlu başkan yardımcısı Finbar Heeg, konferansta Pega’nın Müşteri Karar Merkezi’nin kendileri için yılda 1,5 milyar veya günde yaklaşık dört milyon etkileşimi işlediğini söyledi. Merkezin misyonu, gerçek zamanlı ve anında bir müşteri yolculuğu yaratarak bir sonraki en iyi eylem önerilerini oluşturmaktır. Bir sonraki en iyi eylem, örneğin kişiselleştirilmiş bir e-posta göndermek olabilir ve yapay genel zeka, bu tür e-postaların neredeyse anında oluşturulmasını mümkün kılar.

Bu e-postaların her birinin gönderilmeden önce insan onayına ihtiyacı olduğu öneriliyor. Bu kaç e-posta? Pazarlamacıların yapay zeka tarafından oluşturulan içeriği onaylamak için ne kadar süre ayırması gerekecek?

Belki de çok çeşitli dillerde karmaşık iş belgeleri oluşturmak için Pega GenAI kullanmak daha kolay yönetilebilir. Baş Ürün Sorumlusu Kerim Akgünül açılış konuşmasında, bir kredi talebinde karmaşık bir iş akışı oluşturmak için yapay zekanın nasıl kullanıldığını Türkçe olarak anlattı. Model, küresel iş kurallarının yanı sıra yerel düzenlemeleri de dikkate aldı.

Kendisi de bir Türk olan Akgönül sonuca baktığında bazı hatalar görebiliyordu. Bu yüzden bir kişiye ihtiyaç vardır. Ama hiç şüphe yok ki, yapay zeka ve insan rızasının üretilmesi, insan neslinin ardından insan rızasının gelmesinden çok daha hızlı görünüyordu.

Bunu sorduğum her Pega yöneticisinden duyduğum şey buydu. Evet, onay zaman alacak ve şirketlerin, risk seviyelerine bağlı olarak doğru yönetişim seviyesinin yürürlükte olduğundan emin olmak için yönetişimi – Shurman’ın sözleriyle “kuralcı en iyi uygulamaları” – uygulamaya koyması gerekecek.

Müşteriyle yüz yüze olan birincil rolünde pazarlama için, bu yönetişim seviyesinin yüksek olması muhtemeldir. Bununla birlikte, yapay zeka güdümlü otomasyonun işleri daha iyi ve daha hızlı yapmaya devam edeceğine dair umut ve vaatler var.

---

---