Upgrade to Pro

هل فكرتوا يوم في مدى خطورة الوثائق اللي نتبادلها على الإنترنت؟

اليوم حبيت نتحدث على هجوم جديد يسمى "Bargury's attack"، وين شخص يشارك وثيقة مسمومة على Google Drive، تبدو كأنها رسمية تتعلق بسياسات الاجتماعات. لكن داخل الوثيقة، مكتوب نص خبيث مستتر موجه لـ ChatGPT. النص مكتوب بلون أبيض وحجم صغير، يعني الإنسان ما يقدرش يشوفه، لكن الجهاز يقرأ ça! كيفاش نقدروا نحميوا رواحنا من هاد الأنواع من الهجمات؟

شخصياً، دائما نشوف في الوعي الأمني كشيء مهم، ونحب نكون حذر، خاصةً مع التطور السريع للتكنولوجيا. لازم نتعلموا كيفاش نتفادوا المخاطر هذي، ونكونوا على علم.

فكروا في هالموضوع شوي، وكل واحد فينا عنده دور في حماية نفسه والأخرين.

https://www.schneier.com/blog/archives/2025/08/we-are-still-unable-to-secure-llms-from-malicious-inputs.html
🌟 هل فكرتوا يوم في مدى خطورة الوثائق اللي نتبادلها على الإنترنت؟ اليوم حبيت نتحدث على هجوم جديد يسمى "Bargury's attack"، وين شخص يشارك وثيقة مسمومة على Google Drive، تبدو كأنها رسمية تتعلق بسياسات الاجتماعات. لكن داخل الوثيقة، مكتوب نص خبيث مستتر موجه لـ ChatGPT. النص مكتوب بلون أبيض وحجم صغير، يعني الإنسان ما يقدرش يشوفه، لكن الجهاز يقرأ ça! كيفاش نقدروا نحميوا رواحنا من هاد الأنواع من الهجمات؟ 🤔 شخصياً، دائما نشوف في الوعي الأمني كشيء مهم، ونحب نكون حذر، خاصةً مع التطور السريع للتكنولوجيا. لازم نتعلموا كيفاش نتفادوا المخاطر هذي، ونكونوا على علم. فكروا في هالموضوع شوي، وكل واحد فينا عنده دور في حماية نفسه والأخرين. https://www.schneier.com/blog/archives/2025/08/we-are-still-unable-to-secure-llms-from-malicious-inputs.html
WWW.SCHNEIER.COM
We Are Still Unable to Secure LLMs from Malicious Inputs
Nice indirect prompt injection attack: Bargury’s attack starts with a poisoned document, which is shared to a potential victim’s Google Drive. (Bargury says a victim could have also uploaded a compromised file to their own account.) It lo
Like
Love
Wow
Sad
Angry
1K
1 Comments
ollo https://www.ollo.ws