OpenAI Updated ChatGPT Atlas Browser
OpenAI Updated ChatGPT Atlas Browser to Prevent Prompt Injection Attacks
AI web browsers are often equipped with intelligent AI assistants that can perform automated tasks just by using simple commands or Prompt, or as it is learned as Agental AI. But the implementation of this system has found many loopholes for hackers to engage with users, especially by firing commands or Prompt Injection to command AI to follow manipulative hackers. This may be the good news for many.
According to a report by the website Digwatch, OpenAI, the developer of ChatGPT Atlas, an AI-based web browser developed by the popular AI chatbot ChatGPT, announced that it has developed a security system for the latest version of ChatGPT Atlas to prevent Prompt Injection attacks, which is a way to attack by hiding Prompt commands in emails or decoy files to command Agetic AI to harm its victims, whether it is secretly installing malware, stealing files, secretly sending data to hackers, sending money transfers, or even deleting files. The victim's method is a highly serious attack. In the past, researchers from various bureaux have been able to test the use of this method against AI web browsers and work on all of them, and report the detection back to all developers to the new development this time.
This new defense system will be the use of the Automated Red-Team Framework or the Automated Cyber Attack Simulator to teach Agetic AI to learn different attack patterns, leading to the creation of an AI framework that is strong to resist attacks by Prompt Injection. In addition, OpenAI has also updated the Monitoring System and Safety Control so that it can watch and track attacks more effectively.
This new protection system has been updated to users. It can be tried on the latest update, which is now only macOS version. The Windows version is still under development. It is not currently released to the general user. For Windows operating system users who are interested in this browser, please continue to follow the news closely.
# lemon 8 diary # Trending # Lemon 8 Howtoo # Chatgpt is free # freedomhack
จากประสบการณ์การใช้งาน ChatGPT Atlas เว็บเบราว์เซอร์ที่พัฒนาจาก AI ของ OpenAI นี้ สิ่งที่เห็นชัดเจนคือความพยายามในการยกระดับความปลอดภัยให้กับผู้ใช้งาน เนื่องจากในยุคนี้การโจมตีไซเบอร์ผ่านช่องทาง Prompt Injection กำลังเป็นภัยคุกคามใหม่ที่น่ากังวลมากขึ้นเรื่อย ๆ ซึ่งเป็นการแอบแฝงคำสั่งหรือโค้ดอันตรายในรูปแบบของ prompt เพื่อให้ AI ทำงานที่ผู้โจมตีต้องการอย่างลับๆ เช่น ติดตั้งมัลแวร์ โอนเงิน หรือขโมยข้อมูลสำคัญ ทั้งนี้ OpenAI ได้พัฒนาระบบ Automated Red-Team Framework ที่มีความสามารถเหมือนทีมแฮกเกอร์จำลองมาทดสอบโจมตี AI อย่างต่อเนื่อง ทำให้ AI มีความแข็งแกร่งในการแยกแยะและป้องกันการโจมตีเหล่านี้ได้ดีขึ้น นอกจากความปลอดภัย ยังมีผลดีในการสร้างความมั่นใจให้กับผู้ใช้งานว่าจะไม่ถูก AI ถูกบงการโดยคำสั่งแปลกปลอมที่ซ่อนมาในอีเมลหรือไฟล์ตัวล่อ การอัปเดตนี้สำหรับ macOS ช่วยให้ผู้ใช้สามารถทดลองใช้งานได้ก่อน เวอร์ชัน Windows กำลังอยู่ในระหว่างพัฒนา จึงแนะนำให้ติดตามข่าวสารอย่างใกล้ชิดโดยเฉพาะผู้ที่ต้องการใช้งานเบราว์เซอร์ AI ในระบบ Windows สำหรับผู้ที่สนใจก็สามารถศึกษาข้อมูลเกี่ยวกับเทคนิค Prompt Injection เพื่อสร้างแนวทางป้องกันตนเองเพิ่มขึ้นได้เช่นกัน การที่ OpenAI ลงมือพัฒนาระบบป้องกันนี้จึงถือเป็นก้าวสำคัญในการลดช่องโหว่ของ AI เบราว์เซอร์ยุคใหม่ที่กำลังได้รับความนิยมมากขึ้นเรื่อย ๆ