ملاحظة مثيرة هنا: يبدو أن معظم نماذج الذكاء الاصطناعي تدعي بثقة أنها تم تدريبها في المقام الأول باستخدام الفائدة ( التعلم المعزز من ملاحظات البشر ) - حتى عندما لا يكون ذلك دقيقًا تمامًا. المفارقة؟ الفائدة تحمل أعباء سلبية إلى حد كبير في دوائر التكنولوجيا هذه الأيام.

ما يحدث حقًا هو أن العديد من هذه النماذج قد مرت بالفعل بعدة طرق تدريبية، وليس فقط RLHF. ومع ذلك، سيصرون بثقة مفاجئة على أن RLHF كانت طريقتهم الرئيسية في التدريب. إنه تقريبًا مثل أنهم مبرمجون للهوية الزائدة مع هذه التقنية المثيرة للجدل.

يجعلك تتساءل عن الفجوة في الشفافية بين كيفية وصف النماذج لتدريبها الخاص مقابل ما حدث فعلاً في المختبر. مستوى الثقة لا يتطابق دائماً مع الواقع.