Trải nghiệm chatbot AI cá nhân trên Facebook, Instagram

Tháng 2/2024, OpenAI bắt đầu thử nghiệm tính năng lưu trữ bộ nhớ dài hạn cho ChatGPT. Đến tháng 9, tính năng này được áp dụng rộng rãi. Ảnh: Matthew Modoono/Northeastern University.

Nhà nghiên cứu bảo mật Johann Rehberger gần đây đã tiết lộ một lỗ hổng nghiêm trọng liên quan đến tính năng bộ nhớ dài hạn của ChatGPT. Đây là một tính năng mới được OpenAI giới thiệu vào tháng 2/2024 và mở rộng vào tháng 9.

Tính năng này giúp chatbot lưu trữ thông tin từ các cuộc trò chuyện trước đó. Nhờ đó, người dùng không phải nhập lại các thông tin như tuổi tác, sở thích hay quan điểm cá nhân mỗi khi trò chuyện. Tuy nhiên, chính sự tiện lợi này lại trở thành điểm yếu nếu kẻ tấn công biết cách khai thác.

Theo Ars Technica, Rehberger đã chỉ ra rằng hacker có thể sử dụng kỹ thuật prompt injection - cấy ghép những chỉ thị độc hại vào bộ nhớ, buộc AI tuân theo. Những câu lệnh này được đưa vào thông qua các nội dung không đáng tin cậy như email, tài liệu hoặc trang web. Chẳng hạn như một bức ảnh trên Google Drive hoặc một trang web trên Bing.

Một khi ký ức giả này đã được lưu trữ, AI sẽ tiếp tục sử dụng chúng như tin thật trong các cuộc trò chuyện với người dùng. Điều này dẫn đến những tình huống nguy hiểm hơn khi dữ liệu cá nhân có thể bị thu thập và sử dụng trái phép.

Rehberger đã chứng minh rằng chỉ bằng cách gửi một liên kết chứa hình ảnh độc hại, ông có thể khiến ChatGPT lưu trữ một "ký ức" sai lệch về người dùng. Ví dụ như khiến hệ thống tin rằng người dùng đã 102 tuổi, sống trong Ma trận (Matrix) hoặc thậm chí tin rằng Trái đất phẳng.

Những thông tin này sẽ ảnh hưởng đến tất cả các câu trả lời của ChatGPT sau này. Nhưng quan trọng hơn, mọi thông tin người dùng nhập vào cũng sẽ bị gửi đến máy chủ của hacker.

Khi Rehberger báo cáo vấn đề này lần đầu tiên với OpenAI vào tháng 5/2024, công ty đã coi đây là một lỗi về an toàn chứ không phải một lỗ hổng bảo mật nghiêm trọng.

Nhưng sau khi ông cung cấp bằng chứng cho thấy mình có thể sử dụng lỗ hổng này để đánh cắp toàn bộ dữ liệu người dùng, công ty đã nhanh chóng phát hành một bản vá tạm thời để ngăn chặn khai thác lỗ hổng này trên phiên bản web của ChatGPT.

Cụ thể, Rehberger đã chứng minh cách ChatGPT trên macOS có thể gửi toàn bộ thông tin đầu vào của người dùng và đầu ra của chatbot AI đến một máy chủ do hacker kiểm soát. Mọi thứ người dùng nói hoặc nhập vào hệ thống đều có thể bị theo dõi liên tục.

Bộ nhớ ChatGPT bị thay đổi chỉ sau một vài thao tác "cài cắm". Ảnh: Johann Rehberger.

Để kích hoạt cuộc tấn công này, hacker chỉ cần thuyết phục người dùng ChatGPT nhấp vào một liên kết chứa hình ảnh độc hại. Sau đó, tất cả cuộc trò chuyện của người dùng với ChatGPT sẽ bị chuyển hướng đến máy chủ của kẻ tấn công mà không để lại dấu vết nào.

Mặc dù OpenAI đã khắc phục phần nào vấn đề, Rehberger nhấn mạnh rằng nội dung không đáng tin cậy vẫn có thể sử dụng prompt injection để chèn các thông tin giả vào bộ nhớ dài hạn của ChatGPT. Điều này có nghĩa là trong một số trường hợp nhất định, hacker vẫn có thể khai thác lỗ hổng để lưu trữ những ký ức độc hại nhằm đánh cắp thông tin cá nhân lâu dài, theo Ars Technica.

OpenAI khuyến nghị người dùng thường xuyên kiểm tra bộ nhớ được lưu trữ trong ChatGPT, nhằm phát hiện kịp thời các thông tin có thể bị chèn từ các nguồn không đáng tin. Hãng cũng cung cấp hướng dẫn chi tiết về cách quản lý và xóa bỏ các ký ức đã lưu trong công cụ này. Tuy nhiên, một số người dùng vẫn lo ngại rằng lỗ hổng này có thể dẫn đến những cuộc tấn công tinh vi hơn trong tương lai.

Dùng ChatGPT thế nào để không tạo ra nội dung vô tri

Sự phát triển của AI mở ra nhiều tiềm năng nhưng cũng có không ít mối lo đối với ngành xuất bản, đặc biệt là nhóm tác giả viết sách.

Các tác giả sách cần phải chấp nhận sự vươn lên của AI, sử dụng chúng như một "siêu trợ lý" thay vì chối bỏ trào lưu. Chia sẻ với Tri thức - Znews, nhiều cây viết cho rằng người làm sách vẫn có thể đứng vững trong thời đại AI nếu biết cách tận dụng sức mạnh của trí tuệ nhân tạo.

Nhiều ngày qua dư luận tiếp tục “nóng lên” bởi những thông tin về vụ việc Hiệu phó Trường THPT Bến Tre, Thị xã Phúc Yên, Vĩnh Phúc bị tố “sàm sỡ” với học sinh nữ lớp 11A4 của trường.

Mỗi ngày qua đi mỗi bên lại có những thông tin “phản pháo” nhau. Mới đây nhất là thông tin thầy Huân có mua điện thoại và nhắn tin cho em H. được đưa ra.

Theo ông Huân: “Thầy Hưng có bao giờ lên lớp 11A4 để làm việc đó đâu, và lá đơn không có học sinh ký vào. Bảo gửi đơn về trường, Sở thì làm gì có vì nó là nặc danh. Việc này rõ ràng làm ảnh hưởng tới tôi, bôi nhọ danh dự và uy tín của tôi”.

Trao đổi với ZDNet, ông Hank Schless - quản lý cấp cao về các giải pháp bảo mật tại Lookout cho biết: “Thật khó để phát hiện những lá cờ đỏ mà chúng ta thường thấy ở máy tính xách tay hoặc PC khi sử dụng thiết bị di động với màn hình di động nhỏ như vậy. Vì chúng ta không thể xem trước các liên kết, xem URL đầy đủ trong trình duyệt trên thiết bị di động và nhanh chóng chạm vào bất cứ thứ gì xuất hiện, các tin tặc đang đầu tư thời gian và sức lực của chúng để làm cho các chiến dịch tấn công này không dễ dàng bị phát hiện”.

Trong nhiều trường hợp, kẻ tấn công có thể thiết kế các trang đăng nhập giả trông gần giống hệt như tổ chức mà chúng đang nhắm mục tiêu, đặc biệt là hiện nay rất nhiều doanh nghiệp dựa vào nền tảng đám mây như Office 365.

Nếu người dùng nhập tên người dùng và mật khẩu của họ vào trang lừa đảo, chúng sẽ chuyển chúng cho kẻ tấn công có thể lợi dụng điều này để có quyền truy cập vào tài khoản công ty của họ.

Các cuộc tấn công lừa đảo trên thiết bị di động nhắm vào tài khoản cá nhân cũng gia tăng, khi những kẻ tấn công khai thác điện thoại thông minh và trình duyệt di động nhằm đánh cắp thông tin đăng nhập, thông tin ngân hàng và dữ liệu cá nhân khác.

Một chiến dịch được phát hiện bởi Lookout đã thấy khách hàng của một ngân hàng lớn ở Canada đã bị kẻ tấn công nhắm đến và đã gửi một tin nhắn văn bản cho cho hàng ngàn khách hàng yêu cầu họ đăng nhập vào tài khoản của họ, hướng họ đến các trang trông gần giống với trang thật.

Những kẻ tấn công cũng đang cố gắng tận dụng đại dịch Covid-19 bằng các chiến dịch lừa đảo trên thiết bị di động , đóng giả là các tổ chức chính phủ và y tế.

Liên quan đến vấn đề này, Hank Schless cho biết thêm: “Các chiến dịch lừa đảo trên thiết bị di động sẽ tiếp tục khó phát hiện hơn và chúng ta có thể mong chờ các kỹ thuật tiên tiến hơn ngoài SMS và email. Ranh giới giữa thiết bị cá nhân và thiết bị làm việc sẽ trở nên mờ nhạt hơn và những kẻ tấn công biết rằng họ có thể sử dụng các nền tảng bên ngoài sự bảo vệ của các chính sách bảo mật của công ty truyền thống để có quyền truy cập vào cơ sở hạ tầng của tổ chức”.

Bảo vệ chống lại các cuộc tấn công lừa đảo trên thiết bị di động có thể khó khăn, nhưng bằng cách nào đó cần phải cảnh báo cho nhân viên về nguy cơ của các chiến dịch này để ngăn chặn chúng. Các tổ chức cũng có thể xem xét sử dụng một hệ thống bảo mật di động nhưng họ cũng cần lưu ý rằng nó không vượt qua giới hạn khi xâm phạm quyền riêng tư của người dùng.

Chia sẻ về giải pháp giúp người dùng hạn chế bị tin tặc tấn công, ông Hank Schless nói: “Một giải pháp lý tưởng đó là không nên kiểm tra nội dung mà thay vào đó chỉ nên cảnh báo cho người đó khi họ gặp phải một liên kết độc hại và tự động chặn kết nối độc hại đó. Những cảnh báo này sẽ giáo dục người dùng điều chỉnh thói quen duyệt web và cuối cùng sẽ giúp giảm thiểu rủi ro chung cho tổ chức của bạn”.

Phan Văn Hòa (theo ZDnet)

Nhóm hacker đáng sợ nhất thế giới đang trở lại từ bóng tối

Sau nhiều năm im lặng, nhóm hacker Anonymous vừa có những động thái đầu tiên, họ hứa hẹn sẽ phơi bày "nhiều tội ác" của cảnh sát Mỹ ra ánh sáng.

Dạo này khán giả thấy ông sụt cân nhiều?

Giờ sống một mình nên tôi tự nấu ăn, lúc ăn rất hoành tráng, lúc đại khái qua bữa. Ví dụ, có hôm sáng không ăn, đến 2h chiều mới ăn, coi như cả bữa trưa, bữa sáng gộp vào. Cứ như thế, không đúng giờ giấc, nên đợt này đường huyết của tôi đang lên, dạ dày nóng rát.

Tôi còn bị thoát vị đĩa đệm, thoái hoá đốt sống cổ... Nói chung, tôi nhiều bệnh nền, ngày nào cũng uống cả vốc thuốc. Có giai đoạn tôi bị stress và sút mất 9kg.

Đó là giai đoạn ông chia tay người vợ thứ 3? 

Một phần thôi, phần nữa là bệnh tật ập tới nên cũng có lúc chán nản. Có bàn tay người phụ nữ trong nhà rõ ràng sinh hoạt sẽ đều đặn hơn, từ sáng đến tối tôi ăn 3 - 4 bữa. 

Nói thật, bà xã cũ rất chu đáo, chăm sóc chồng con số một. Có hôm hai vợ chồng giận nhau hay cãi nhau, tưởng như không muốn nhìn mặt nhau nhưng bà ấy vẫn cặm cụi nấu ăn. Dù giận không ngồi cùng mâm, bà vẫn dọn sẵn cho mình ăn. 

Lần nào gặp ông cũng khen nức nở những người vợ cũ, vậy sao ông không tìm cách để cả hai quay về?

Có thể, ảnh hưởng của nghề nghiệp phần nào tác động tới hạnh phúc của tôi. Tôi thừa nhận kém khi hài hoà công việc và gia đình.

Tôi đam mê quá, mải mê đi theo nghệ thuật nên nhiều lúc thiếu sự quan tâm tới gia đình, vợ con. Có thể, người phụ nữ cảm thấy tình cảm cứ xa dần, gia đình thiếu đi sự gắn kết, dần dần rạn nứt tình cảm. 

Ai cũng đều mong cầu hạnh phúc, có gia đình, có bạn đời sống với nhau tới đầu bạc răng long. Nhưng nhiều khi duy tâm một chút tôi cho là số phận. Tôi nghĩ chuyện vợ chồng là duyên số. Hết duyên ra đi, nghĩ vậy cho nhẹ lòng.

Tôi vẫn ước mong có người nhắc uống thuốc mỗi ngày, khát vọng là thế nhưng phụ thuộc vào số mệnh. Tôi bị mang tiếng đào hoa nhưng vẫn độc thân. Đôi khi, tôi hay nói đùa rằng, ai có ý định đến với tôi cũng nghĩ “ông này không cô đơn”, nên cuối cùng chả ai tới. 

Quan hệ của ông với vợ cũ như thế nào? 

Chúng tôi ly hôn văn minh nên giờ vẫn là bạn. Có lần, tôi và vợ cũ cùng dự tiệc sinh nhật một bạn chung, cô ấy vẫn ngồi bên cạnh gắp thức ăn, chăm sóc tôi vui vẻ như bình thường. Chỉ là không còn gọi điện nhắc uống thuốc nhưng vẫn hỏi thăm sức khỏe của nhau. 

Sống một mình, lại nhiều bệnh, sao ông không dọn về cùng con trai - đạo diễn Bình Trọng?

Nhiều lần Trọng mời về sống chung mà tôi từ chối. Khi Trọng làm nhà, đã dành riêng một tầng, muốn thiết kế theo đúng ý bố để về sống cùng nhưng tôi vẫn chưa về. Tôi sống tự do quen rồi, lớp trẻ sinh hoạt khác mình, tự nhiên phiền luỵ tôi ngại.

Thầy tướng từng nói, có thể cuối đời tôi sống một mình. Đi công tác cũng thế, tôi tự lái và phải ở một mình, không chung phòng với ai. 

Tuổi này mà ông cứ lái xe đi diễn, lại về đêm hôm, có nguy hiểm?

Biết là thế nhưng mà tôi đam mê đi diễn lắm! Tôi cứ nghĩ nếu không được diễn, chắc sẽ nhanh già, nhanh chết, suy sụp tinh thần.

Nghệ thuật có sức hút kỳ lạ, dù ốm sốt, ho hắng nhưng cứ đứng trước máy quay là không còn bệnh tật gì hết. Chỉ khi vào hậu trường, tự nhiên cơn sốt ập tới và ho sù sụ luôn.

Có lần, tôi từng “chết lâm sàng” ở phim trường 30 phút. Đó là lần quay ở Thạch Thất tiểu phẩm cho đạo diễn Nguyễn Love, trời mưa to, nền trơn trượt, khi tập thử không vấn đề gì nhưng tới khi quay thật, tôi trượt chân, đập mặt xuống đất bất tỉnh. 

Anh em đoàn làm phim bế tôi vào thay quần áo, đưa lên xe cấp cứu, tôi không biết gì hết. Lúc vào gần tới viện tôi tỉnh, hỏi anh em chuyện gì xảy ra. 

Nhưng khi vào viện bác sĩ rửa vết thương xong xuôi, tôi đòi về quay nốt phân cảnh đó, không thể vì mình anh em lại chờ đợi. Sau đó, tôi tự lái xe về dù đoàn làm phim gọi cho con trai lên đón, tôi cũng không nghe, nhất định về một mình. 

Đợt đi quay ở Lâm Đồng cho phim Bão ngầm, quay đại cảnh cần nhiều quân, nhiều chó nghiệp vụ, tôi đứng lâu quá tê hết chân rồi ngã quỵ xuống. Cả đoàn hốt hoảng tưởng tôi đột quỵ nhưng thực ra tôi bị thoát vị đĩa đệm không đứng lâu được. 

Ở tuổi 71 nhưng dường như ông vẫn đang sống rất vội?

Lại một cái Tết nữa cô đơn, có lẽ tôi sẽ phải tính lại, sống chậm thôi. Tuổi này rồi mà bảo sống chậm lại người khác nghe chắc thấy buồn cười lắm! Nhưng sống chậm với tôi bây giờ là bớt đam mê, giảm sở thích cá nhân, chăm lo tới cuộc sống cho chính mình nhiều hơn, có nghĩa là nghĩ tới mình nhiều hơn - nghĩ tới sức khoẻ - nghĩ tới tổ ấm.

Chắc tôi phải tính toán lại chuyện gia đình để ổn định tinh thần, sau đó còn phút giây nào cống hiến được cho nghệ thuật mới tiếp tục. 

Công nghệ mới dựa trên trí tuệ nhân tạo(AI) lần đầu tiên cho phép biến hình dung về các vật thể và phong cảnh bên trong bộ não con người thành các hình ảnh trực quan.

Với sự trợ giúp của AI, các nhà khoa học đã có thể bắt đầu tái hiện được những hình ảnh sống động, chi tiết trong trí tưởng tượng của những người tham gia thử nghiệm, ví dụ như một con vật với tai, miệng và các đốm trên lông hoặc một chiếc máy bay có đèn trên cánh.

Trong thí nghiệm mới, các nhà nghiên cứu đã cho những người tham gia thử nghiệm xem khoảng 1.200 hình ảnh, sau đó phân tích và đánh giá tỉ mỉ mối quan hệ giữa tín hiệu não và kích thích thị giác bằng cách sử dụng hình ảnh cộng hưởng từ chức năng (fMRI).

Dữ liệu thu được được sử dụng để đào tạo AI, giải mã và tái tạo hình ảnh dựa trên hoạt động của não. Kết quả thí nghiệm cho thấy mô hình thành công trong việc tái tạo cả hình ảnh tự nhiên và hình dạng nhân tạo do người tham gia tưởng tượng.

Các nhà nghiên cứu cho biết sự ra đời của công nghệ tái tạo hình ảnh dựa trên hoạt động của bộ não người sẽ mở ra những cơ hội cho việc nghiên cứu các thiết bị liên lạc hoàn toàn mới.

Đồng thời, nó cũng cho phép các nhà khoa học nghiên cứu sâu hơn về cơ chế tạo ra ảo giác và giấc mơ trong não người.

Các công trình nghiên cứu trước đây liên quan đến việc tái hiện trí tưởng tượng trong bộ não con người tuy đã đạt được thành công nhất định, tuy nhiên, hình ảnh thu được chỉ giới hạn ở mức độ tối giản, ví dụ như khuôn mặt, dáng người hoặc các chữ cái. 

(theo Securitylab)

OpenAI vạch ra lộ trình an toàn mới trong phát triển AI