ابق على اطلاع بالتحديثات المجانية
ببساطة قم بالتسجيل في الذكاء الاصطناعي myFT Digest – يتم تسليمه مباشرة إلى صندوق الوارد الخاص بك.
ستصبح TikTok أول منصة للتواصل الاجتماعي تقوم تلقائيًا بتصنيف بعض المحتوى الناتج عن الذكاء الاصطناعي، حيث يؤدي التقدم السريع في الذكاء الاصطناعي إلى تعميق المخاوف بشأن انتشار المعلومات المضللة عبر الإنترنت والمزيفات العميقة.
تطلب المجموعات عبر الإنترنت، مثل مالكي فيسبوك Meta وTikTok، من المستخدمين الكشف عما إذا كانت الصور أو الصوت أو مقاطع الفيديو الواقعية قد تم التقاطها من خلال برامج الذكاء الاصطناعي.
ذهب تطبيق الفيديو واسع الانتشار، المملوك لشركة ByteDance الصينية، إلى أبعد من ذلك يوم الخميس، حيث أعلن أنه يقدم ميزاته الخاصة لضمان تصنيف مقاطع الفيديو التي يمكنه تحديدها على أنها تم إنشاؤها بواسطة الذكاء الاصطناعي على هذا النحو. وسيشمل ذلك المحتوى الذي تم إنشاؤه باستخدام أداة Adobe's Firefly، ومولدات الصور المدعومة بالذكاء الاصطناعي الخاصة بـ TikTok، وDall-E من OpenAI.
“يكمن التحدي في أننا نعلم من العديد من الخبراء الذين نعمل معهم أن هناك ارتفاعًا في . . . قال آدم بريسر، رئيس العمليات والثقة والسلامة في TikTok: “المحتوى الضار الناتج عن الذكاء الاصطناعي”.
“هذا مهم حقًا لمجتمعنا لأن الأصالة هي في الواقع أحد العناصر التي جعلت TikTok مجتمعًا نابضًا بالحياة والمبهج. . . إنهم يريدون أن يكونوا قادرين على فهم ما صنعه الإنسان وما تم تعزيزه أو إنشاؤه باستخدام الذكاء الاصطناعي.
تستكشف منصات الوسائط الاجتماعية، بما في ذلك TikTok وMeta وX وYouTube، طرقًا لدمج الذكاء الاصطناعي التوليدي في منصاتها، من خلال روبوتات الدردشة والأدوات الجديدة التي تساعد المؤثرين والمعلنين على إنشاء الوسائط. ومع ذلك، تعرضت المنصات لانتقادات شديدة لأنها سمحت للمستخدمين بغمر المستخدمين بمحتوى غير مرغوب فيه منخفض الجودة تم إنشاؤه بواسطة الذكاء الاصطناعي.
وفي عام يشهد انتخابات كبرى في جميع أنحاء العالم، تواجه هذه الشركات أيضًا ضغوطًا لإدخال حواجز حماية حول التزييف العميق المضلل، والحد من عمليات التأثير السرية والتأكد من أنها تقوم بتعديل المحتوى بشكل صحيح مع البقاء غير حزبية.
في وقت سابق من هذا الأسبوع، رفعت TikTok والشركة الأم ByteDance دعوى قضائية ضد الحكومة الأمريكية، متحدية قانونًا مصممًا لفرض بيع التطبيق أو حظره. وأعرب المشرعون عن قلقهم من أن المنصة قد تنشر معلومات مضللة ودعاية.
وقالت TikTok يوم الخميس إنها ستنضم إلى تحالف من مجموعات التكنولوجيا والإعلام، بقيادة Adobe، التي تدمج ما يسمى ببيانات اعتماد المحتوى في المنتجات التي يتم إنشاؤها بواسطة الذكاء الاصطناعي.
تقوم هذه التقنية بدمج بصمة رقمية في محتوى الذكاء الاصطناعي للوسائط المتعددة، إلى جانب معلومات تعريفية أخرى مثل متى وأين ومن قام بإنشاء المادة. سيستخدم TikTok هذه المؤشرات للإبلاغ تلقائيًا عند إنشاء المحتوى باستخدام منتجات الذكاء الاصطناعي.
أعلنت شركة OpenAI يوم الثلاثاء أنها ستنضم إلى التحالف، المعروف باسم مبادرة مصادقة المحتوى، وستقوم بدمج تقنية بصمات الأصابع في جميع الصور التي تم إنشاؤها بواسطة نموذج الصور الخاص بها Dall-E 3. وفي النهاية، قالت الشركة المصنعة لـ ChatGPT، إنها ستقوم أيضًا بدمجها في صورها نموذج توليد الفيديو Sora، عندما تم إصداره على نطاق واسع.
وتستكشف شركات التكنولوجيا الكبرى، بما في ذلك جوجل ومايكروسوفت وسوني، دمج التكنولوجيا في أدوات الذكاء الاصطناعي الخاصة بها.
قالت Meta في وقت سابق من هذا الشهر إنها ستبدأ في ختم المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي بعلامة “Made by AI” من خلال الكشف عن العلامات غير المرئية التي تدرجها مجموعات مثل Google، وOpenAI، وMicrosoft، وAdobe، وMidjourney، وShutterstock. وقال مالك فيسبوك أيضًا إنه يعمل على تطوير أدوات تصنيف للكشف عن التزييف العميق.
جادل الخبراء بأن الجهات الفاعلة السيئة أو مجموعات التضليل المتطورة من المرجح أن تستخدم أدوات توليد الذكاء الاصطناعي مفتوحة المصدر لإنشاء صور مزيفة، مما قد يجعل من الصعب تتبعها وعدم تمييزها عن طريق البصمات الرقمية والعلامات المائية.
وتقول شركات التكنولوجيا إن جهودها تمثل الخطوة الأولى نحو معالجة المشكلة.
وقالت دانا راو، المستشارة العامة وكبيرة مسؤولي الثقة في Adobe: “إن فرضية هذا الحل هي إذا كنت تريد أن تكون شفافًا وأن تجري محادثة حقيقية وشفافة مع الجمهور، فإن هذه الأداة ستسمح لك بالقيام بذلك في عالم حيث كل شيء يمكن التلاعب الرقمي.”
