Bir yazılım fikrini anlatıp birkaç dakika içinde ekran taslağı görmek heyecan verici. Fakat o ekran, doğru problemi çözdüğümüzü tek başına göstermez. Kullanıcı kim, hangi işi tamamlamaya çalışıyor, hangi bilgiye güvenebilir ve yanlış bir sonuçla karşılaşınca ne yapacak? Ürünün kalitesini belirleyen sorular burada başlar.
Yapay zekâyı üretim sürecine katarken önce görevi sınırlandırmak yararlıdır. “Bir yönetim sistemi yap” yerine, “bu onay akışındaki belirsizlikleri bul” gibi açık bir görev daha kolay değerlendirilebilir. İstenen çıktının yanı sıra kabul edilmeyecek sonuçları da tanımlamak gerekir.
İnsan uzmanlığı, hedefi ve bağlamı taşır. Bir önerinin şirketin işleyişine uyup uymadığını, hangi verinin hassas olduğunu ve kullanıcıya hangi sorumluluğun yüklenmemesi gerektiğini değerlendirir. AI, bu kararın hazırlanmasına yardımcı olabilir; kararın sahibini görünmez hâle getirmemelidir.
Kod üretimi de aynı yaklaşımın parçasıdır. Çalışır görünen bir bölümün hata durumları, erişim sınırları ve bakım ihtiyaçları incelenmelidir. Bir özelliğin nasıl doğrulandığını bilmek, yalnızca üretilmiş olmasından daha değerli bir teslim bilgisidir.
Projeye başlarken üç soruyu yazılı hâle getirmeyi öneriyoruz: AI hangi işlerde kullanılacak, çıktıları kim inceleyecek ve hangi noktada açık insan onayı gerekecek? Bu soruların cevapları iş ilerledikçe güncellenebilir; önemli olan sorumluluğun baştan konuşulmasıdır.
Benom’un benimsediği çalışma biçimi bu ilişki üzerine kuruludur. İnsan, işi ve yönü belirler. Yapay zekâ araştırma ve üretime katkı sunar. Test, değerlendirme ve yayın kararı birlikte tasarlanmış bir sürecin içinde kalır.