Yapay zekâdan bir arayüz taslağı, bir hesaplama betiği veya uzun bir yapılacaklar listesi isteyebiliyoruz. Benim asıl ilgilendiğim soru, çıkan işin hangi ihtiyacı karşıladığı.
Makine imalatı ve mekanik montajda bir parçanın nasıl üretileceğini, diğer parçalarla nasıl birleşeceğini ve kullanılırken nelere ihtiyaç duyulacağını birlikte düşünmek gerekiyor. Yapay zekâ destekli geliştirmeye de bu gözle bakıyorum: Sonucu kullanacak kişinin işi gerçekten kolaylaşıyor mu?
Kısa cevap: Yapay zekâ ile problem çözmede değer, çözmeye değer bir ihtiyacı seçmek ve üretilen sonucu o ihtiyaca göre doğrulamakla ortaya çıkar. İyi bir başlangıç, kimin hangi işini iyileştireceğini, sınırları ve başarıyı nasıl kontrol edeceğini açıkça yazmaktır.
Zekâ ve bilgelik bu işin neresinde?
Bu yazıda zekâyı çözüm üretme becerisi; bilgeliği ise hedefi, bedeli ve sonuçları birlikte değerlendirme yönünden ele alıyorum. Bu ayrım, yapay zekâyla çalışırken iki ayrı soruyu görünür kılıyor:
- Bu işi nasıl yapabiliriz?
- Bu iş, şu anda çözmeye değer mi?
İkinci soru bazen daha fazla düşünmeyi gerektiriyor. Yapılabilir bir özellik, kullanıcının yaşadığı soruna dokunmayabilir. Bir işlemi hızlandırırken kontrol yükünü başka birine aktarmış olabiliriz. Yeni bir araç geliştirmek, mevcut bir belgedeki belirsizliği gidermekten daha az fayda sağlayabilir.
İnsan da yanlış problemi seçebilir. Yapay zekâdan hedefimizi sorgulamasını, varsayımlarımızı bulmasını ve daha basit seçenekler önermesini isteyebiliriz. Mesleki deneyimimiz konuşmaya bağlam getirir; model farklı yolları değerlendirmemize yardım edebilir. Sonucun uygunluğunu değerlendirme ve kullanma sorumluluğu ise bizde kalır.
Önce problemi bir cümleye indir
“İşime yapay zekâ eklemek istiyorum” bir başlangıç niyeti. Çalışmayı yönlendirecek kadar açık bir problem tanımı için şu cümleyi tamamlamayı öneriyorum:
[Kişi], [işi] yaparken [belirli bir sorun] yaşıyor. [Gözlenebilir sonuç] iyileşirse çözümü yararlı sayacağız.
Örneğin: “Montajı yapan kişi, birbirine benzeyen parçaları çizimle eşleştirirken tekrar tekrar kontrol etmek zorunda kalıyor. Yanlış eşleştirmeler artmadan parçayı bulma süresi azalırsa çözümü yararlı sayacağız.”
Bu tanım, çözümü baştan bir sohbet robotuna veya yeni bir uygulamaya bağlamıyor. Daha anlaşılır bir parça listesi, iyi bir etiket veya küçük bir yazılım yeterli olabilir. Önce mevcut yöntemi anlamak gerekir: Sorun ne sıklıkta yaşanıyor, kim etkileniyor, bugün nasıl çözülüyor?
Yapay zekâ burada görüşme soruları hazırlayabilir, notları düzenleyebilir ve seçenekleri karşılaştırabilir. Henüz gözlenmemiş bir sorunu gerçekmiş gibi anlatmamalıyız.
İmalattan varsayımsal bir örnek: Parça sayısını değil, karışıklığı azaltmak
Sac panellerden bir ürünün monte edildiğini düşünelim. Bazı parçalar birbirine benziyor; hangi parçanın nereye geldiği ve hangi sırayla birleştirileceği kolay anlaşılmıyor. Bu, yöntemi açıklamak için hazırlanmış varsayımsal bir senaryo. Uygulanmış bir projenin sonucu veya ölçülmüş bir kazanç değil.
İlk istek “Bana otomatik montaj yazılımı yap” olabilir. Ben önce daha dar bir ihtiyacı tarif ederdim: Onaylı parça listesi ve çizimlerden, montajda karışmayacak bir işaretleme düzeni hazırlamak.
Çalışmanın sınırları da baştan belli olmalı:
- Her parça kodu, onaylı listedeki tek bir parçayla eşleşmeli
- İşaret, ilgili montaj adımında okunabilir olmalı; bitmiş ürünün görünüşünü bozmaması isteniyorsa uygun iç yüzey seçilmeli
- Büküm açısı ve yönü, doğrulanmış teknik veriden gelmeli; eksik bilgi açıkça işaretlenmeli
- Montaj sırası, parçaları birleştirecek kişinin erişimini ve uygulama koşullarını dikkate almalı
Yapay zekâ, verilen bilgilere dayanarak etiket taslağı veya listeyi denetleyen bir betik hazırlamaya yardımcı olabilir. Kodları karşılaştırmak ve eksik kayıtları göstermek ayrı bir iş; bir parçanın gerçekten bükülüp birleştirilebildiğini doğrulamak ayrı bir kontroldür.
İlk denemeyi bütün ürüne yaymak yerine küçük bir montaj grubuyla başlatırdım. Önce mevcut yöntemle parçaların nasıl bulunduğunu kaydeder, ardından önerilen düzeni benzer koşullarda denerdim. Arama süresinin yanında yanlış eşleştirmeyi, yeniden kontrol ihtiyacını ve etiket hazırlama süresini de izlerdim. Montajda kazandığımız süreyi hazırlıkta harcıyorsak bunu görmemiz gerekir.
Üretime aktarımda işaretleme yöntemi, malzeme, çizim ve ekipman koşulları sorumlu kişi tarafından ayrıca doğrulanmalı. Küçük bir denemenin iyi görünmesi, her parça veya her montaj için aynı sonucu kanıtlamaz.
Akıcı cevabı nasıl kontrol ederiz?
Üretken yapay zekâ, yanlış bilgiyi kendinden emin bir dille sunabilir; verdiği açıklama veya kaynak da hatalı olabilir. NIST'in üretken yapay zekâ risk profilinde bu durum “confabulation” başlığı altında ele alınıyor. NIST AI 600-1, bölüm 2.2
Bu nedenle kontrol yöntemini çıktıya göre seçmek gerekir:
- Bilgi: Verilen kaynağı aç. İddia gerçekten orada mı, tarih ve kapsam uygun mu?
- Hesap: Girdileri ve birimleri kontrol et; işlemi bağımsız biçimde yeniden hesapla
- Kod: Çalıştırılabilir bir test yap. Doğru girdinin yanında eksik, hatalı ve beklenmeyen girdileri de dene
- Çizim veya üretim dosyası: Ölçüleri, yönleri ve bağlantıları yetkili teknik kaynakla karşılaştır; gerekli fiziksel doğrulamayı planla
- İş akışı: Sonucu kullanacak kişinin işini gözle. Hazırlık ve kontrol süresini de toplam emeğe kat
Aynı modele “Emin misin?” diye sormak, atlanan noktaları bulmaya yardımcı olabilir. Bağımsız bir kontrol içinse kaynağa, hesaba, teste veya gözleme dönmek gerekir.
NIST AI RMF de değerlendirmede kullanım koşullarına uygun ölçümleri, testlerin belgelenmesini ve sistem kullanılırken kontrollerin sürmesini vurgular. Aşağıdaki liste, bu yazı için önerdiğim pratik başlangıçtır; resmî bir uygunluk kontrol listesi değildir. NIST AI RMF, bölüm 5.3
Başlamadan önce yedi soruya cevap ver
- Kimin işi iyileşecek? Sonucu kullanacak kişiyi ve yaptığı işi tarif et
- Sorunun kanıtı ne? Gözlem, örnek dosya veya tekrar eden bir hata göster
- En basit seçenek ne? Mevcut yöntem, bir kontrol listesi veya küçük bir düzenleme yeterli olabilir mi?
- Hangi sınırlar var? Bütçe, süre, veri gizliliği, güvenlik ve mevcut araçları yaz
- Başarıyı neyle karşılaştıracağız? Bugünkü durumu ve korunması gereken kaliteyi kaydet
- Çıktıyı kim, nasıl doğrulayacak? Gerekli kaynağı, testi ve sorumlu kişiyi belirle
- Ne zaman devam edeceğiz, değiştireceğiz veya duracağız? Kontrol maliyeti faydayı aşıyorsa ya da kritik hata giderilemiyorsa durma koşulunu önceden koy
Hepsine kesin cevap vermek gerekmiyor. Cevapsız kalan bir soru, bir sonraki küçük araştırmanın veya denemenin konusu olabilir. Böylece belirsizliği yeni özelliklerle örtmek yerine doğrudan araştırırız.
Yapay zekâya verilebilecek bir başlangıç isteği
“Şu kişi için şu işi iyileştirmek istiyorum: […]. Gözlediğim sorun: […]. Mevcut yöntem ve elimdeki örnekler: […]. Sınırlarım: […]. Başarı ölçütüm: […]. Önce problem tanımımdaki varsayımları ve eksik bilgileri göster. Yapay zekâ gerektirmeyen bir seçenek dahil, en fazla üç yaklaşımı karşılaştır. En küçük yararlı denemeyi, doğrulama yöntemini ve durma koşulunu öner. Vermediğim ölçüleri veya sonuçları uydurma.”
Başlarken paylaşmaya yetkili olduğunuz, gereksiz kişisel veya ticari bilgi içermeyen örnekler kullanın. Gelen yanıtı okuyup belirli bir noktayı düzeltin: Eksik kalan koşul ne, hangi varsayım yanlış, hangi sonuç kontrol edilemiyor?
Benim için zekâ ve bilgelik ayrımı burada işe yarıyor. Çözüm üretme kapasitesini, değerli bir hedefe ve gözlenebilir bir sonuca bağlamak. Yapay zekâ ile birlikte düşünmek de bu süreci kapsıyor: Soruyu kurmak, itirazı duymak, denemek ve gerektiğinde yön değiştirmek.
Kaynak kodu ile test kayıtlarının nasıl birlikte sunulabileceğini görmek için açık kaynak çalışmalarımı inceleyebilirsiniz. Yazılım testi, dijital tasarım ve fiziksel uygulama kendi kapsamlarında değerlendirilmelidir.