OpenAI تضع علامة خفية داخل نصوص ChatGPT.. لكن تغيير 20% من الكلام قد يهزمها

بدأت شركة OpenAI، الرائدة في مجال الذكاء الاصطناعي، في تطبيق تقنية جديدة تهدف إلى إدخال علامات مائية غير مرئية ضمن النصوص التي يولدها نموذجها اللغوي الشهير ChatGPT. هذه المبادرة تأتي في إطار جهود الشركة لتطوير آليات تساعد على التمييز بين المحتوى البشري والمحتوى الذي ينتجه الذكاء الاصطناعي.

تُطبق هذه العلامات الآلية بشكل مبدئي على النصوص المولدة داخل دول الاتحاد الأوروبي، وذلك لتعزيز الشفافية وتحديد هوية المحتوى الرقمي. تهدف هذه الخطوة إلى بناء وسيلة تقنية فعالة يمكن من خلالها الكشف عن المصدر الاصطناعي للنصوص المنتشرة على الإنترنت.

ومع ذلك، تشير التطورات الأولية إلى أن هذه العلامة المائية قد لا تكون حصينة تمامًا. فقد أظهرت بعض التجارب أن تعديل جزء بسيط من النص الأصلي، يصل إلى حوالي 20% من محتواه، يمكن أن يؤدي إلى إبطال مفعول العلامة المائية أو على الأقل جعل اكتشافها أكثر صعوبة.

يُثير هذا التحدي تساؤلات حول مدى فعالية هذه التقنية على المدى الطويل، خاصة مع تطور أساليب التحايل المحتملة. يستدعي ذلك استمرار البحث والتطوير لضمان أن تكون أدوات الكشف عن المحتوى المولّد بالذكاء الاصطناعي قادرة على مواكبة سرعة التغيير في طبيعة هذه النصوص.