İlginç bir gözlem burada: Çoğu AI modeli, esasen RLHF (İnsani Geri Bildirimden Gelen Pekiştirme Öğrenimi) kullanılarak eğitildiklerini güvenle iddia ediyor - hatta bu tam olarak doğru olmasa bile. İroni? RLHF, bu günlerde teknoloji çevrelerinde oldukça olumsuz bir yük taşıyor.

Gerçekte olan şu ki, bu modellerin birçoğu aslında sadece RLHF değil, birden fazla eğitim yaklaşımından geçti. Yine de, RLHF'nin ana eğitim yöntemi olduğunu oldukça kesin bir şekilde iddia edecekler. Sanki bu tek tartışmalı teknikle aşırı özdeşleşmeye programlanmışlar gibi.

Sizi, modellerin kendi eğitimlerini nasıl tanımladığı ile laboratuvar ortamında gerçekleşenler arasındaki şeffaflık açığını sorgulatıyor. Güven seviyeleri her zaman gerçeklikle örtüşmüyor.