الجانب المظلم من الذكاء الاصطناعي: رحلتي عبر عالم التزييف العميق في تيليجرام

لقد قضيت أسابيع أبحث في المياه المظلمة لروبوتات تيليجرام المدعومة بالذكاء الاصطناعي، وما اكتشفته هو في الواقع مقلق. التكنولوجيا التي تعد بإحداث ثورة في الصناعات لديها جانب شرير نادرًا ما يتحدث عنه الناس.

دعونا نترك الهراء حول "أفضل 5" مشاريع - أريد أن أركز على DeepFakeAI، الذي يتم تسويقه كتركيبة ثورية من "البلوكشين، والذكاء الاصطناعي، وبناء المجتمع." ما يقومون ببيعه فعليًا هو أداة مقلقة بشكل مزعج لإنشاء فيديوهات مزيفة لأشخاص حقيقيين يقومون بقول وفعل أشياء لم يفعلوها أبدًا.

لقد اختبرت أحد هذه الروبوتات بنفسي. مع بضع صور وبعض إدخال النص، أنشأت فيديو لزميلي "يعلن" استقالته - كل ذلك في أقل من خمس دقائق. كانت الجودة مخيفة للغاية. لا حاجة لمهارات تقنية. فقط وجه، انقر، وانتهك هوية شخص رقمي.

تتجاهل المواد الترويجية الكابوس الأخلاقي الذي تخلقه. إنهم متحمسون لـ "تعديل الصوت الواقعي" و"تزامن الشفاه" لكنهم يتجاهلون بشكل ملائم مدى سهولة استخدام هذه التكنولوجيا كأسلحة للانتقام الجنسي، أو التلاعب السياسي، أو التخريب المؤسسي.

ولا تجعلني أبدأ في اقتصاديات الرموز. كل معاملة "تtrigger حدث حرق الرموز، والذي قد يدعم الأسعار على المدى الطويل." الترجمة: لقد جعلوا من انتحال الهوية الرقمية لعبة ويحققون أرباحًا من خلال رمزهم الأصلي. إنها استغلال ترتدي زي البلوكشين.

بينما قد تحتوي مشاريع أخرى مثل Fetch AI و SingularityNET على حالات استخدام مشروعة، فإن تطبيع تقنية الdeepfake من خلال بوتات Telegram السهلة الاستخدام يمثل تهديدًا فوريًا يبدو أن مجتمع العملات المشفرة يتجاهله بشغف.

ما يثير القلق حقًا هو كيف يتم تسويق هذه الأدوات بشكل غير جدّي - دون أي ذكر جاد لآليات الأمان أو آليات الموافقة أو أنظمة التحقق. فقط "أنشئ مقاطع عميقة باستخدام معرفة تقنية قليلة!" كما لو كان ذلك شيئًا يستحق الاحتفال.

تذكر المقالة أن هذه المشاريع "تسمح للمستخدمين بمعالجة القضايا الواقعية" - لكن ماذا عن القضايا الواقعية التي يخلقونها؟ هذه ليست مجرد أدوات؛ إنها أسلحة محتملة في حرب المعلومات المتزايدة. لقد رأيت خوادم Discord حيث يشارك المراهقون نصائح حول كيفية إنشاء تقليد عميق لزملائهم في الدراسة. لم يعد هذا ضررًا نظريًا بعد الآن.

التكنولوجيا نفسها ليست شريرة بطبيعتها، ولكن النشر العشوائي بدافع الربح قبل الاعتبارات الأخلاقية هو كارثة تنتظر حدوثها. نحن بحاجة إلى تنظيم جاد هنا، وليس المزيد من المضاربات المدفوعة بالتوكن.