تنظيم حدث جماعى للمتسللين لمعرفة كيف يمكن التلاعب ببرامج الدردشة الآلية لإلحاق الضرر

يتم عقد "حدث اختراق جماعي" بالشراكة مع إدارة بايدن حتى يتمكن عملاق التكنولوجيا من فهم عيوب برامج الدردشة الخاصة به بشكل أفضل. بمجرد إصدار ChatGPT ، بدأ المتسللون في "كسر الحماية" لروبوت الدردشة الآلي للذكاء الاصطناعي - في محاولة لتجاوز إجراءات الأمان الخاصة به حتى يتمكن من القيام بأشياء عشوائية أو فاحشة. ولكن الآن يقوم منشئها ، OpenAI ومزودو الذكاء الاصطناعي الرئيسيون الآخرون مثل Google و Microsoft بالتنسيق مع إدارة بايدن للسماح لآلاف المتسللين باختبار حدود تقنيتهم. بعض الأشياء التي قد يبحثون عنها: كيف يمكن التلاعب ببرامج الدردشة الآلية لإلحاق الضرر؟ هل سيشاركون المعلومات الشخصية التي نشاركها مع مستخدمين آخرين؟ ولماذا يعتقدون أن الطبيب رجل والممرضة امرأة؟ قال رومان تشودري ، منسق حدث القرصنة الشامل المخطط له في مؤتمر DEF CON هذا الصيف في لاس فيجاس، والذي من المتوقع أن يجذب الآلاف: "لهذا السبب نحن بحاجة إلى آلاف الأشخاص". "نحتاج إلى الكثير من الأشخاص ذوي الخبرة الواسعة والخبرة في الموضوع ومجموعة واسعة من عمليات القرصنة الخلفية على هذه النماذج ومحاولة العثور على المشكلات التي يمكن إصلاحها بعد ذلك". أيًا كان من جرب chatgptMicrosoft chatbot أو google feed ، فسوف يتعلم سريعًا أن لديه ميلًا إلى اختلاق المعلومات وتقديمها بثقة على أنها حقيقة.