AI có thêm một khả năng mới mang đến nhiều rủi ro tiềm ẩn!

Sự phát triển vượt bậc của trí tuệ nhân tạo (AI) đang mở ra nhiều tiềm năng, nhưng cũng đi kèm với rủi ro khó lường. Trong đó, khả năng sao chép tính cách và giọng nói con người đã trở thành một mối đe dọa mới, đặc biệt khi công nghệ này rơi vào tay kẻ xấu.

AI có thể “nhân bản” tính cách con người

Theo nghiên cứu mới đây của các nhà khoa học từ Đại học Stanford và Google DeepMind, một cuộc phỏng vấn kéo dài 120 phút là đủ để AI tạo ra một phiên bản ảo mô phỏng thái độ và hành vi con người.

Nghiên cứu đã thu thập dữ liệu từ 1.052 người tham gia, ghi lại câu chuyện cá nhân và quan điểm của họ về các vấn đề xã hội. Sau đó, các phản hồi này được sử dụng để huấn luyện AI, tạo ra những "bản sao mô phỏng".

Độ chính xác của các đại diện do AI tạo ra lên đến 85% khi thực hiện lại các bài kiểm tra tính cách hoặc trò chơi mà người tham gia từng thực hiện. Điều này cho thấy AI có khả năng nắm bắt cấu trúc tâm lý và hành vi của một cá nhân chỉ từ lượng thông tin hạn chế.

Ban đầu, nghiên cứu được thực hiện với mục đích hỗ trợ dự án xã hội học. Các nhà khoa học có thể tiết kiệm chi phí và mở rộng quy mô thí nghiệm mà không cần đến hàng ngàn người tham gia. Ngoài ra, việc sử dụng các đại diện số cũng cho phép thực hiện những thử nghiệm mà nếu tiến hành trên người thật có thể bị xem là phi đạo đức.

Không chỉ sao chép tính cách con người, AI còn có khả năng tái tạo giọng nói, tạo ra nhiều nguy cơ bị lợi dụng để lừa đảo và mạo danh người khác. Các mô hình như OpenAI Voice API có thể mô phỏng giọng nói chỉ từ vài giây âm thanh, biến bất kỳ đoạn video hay audio nào trên mạng xã hội đều trở thành nguồn dữ liệu tiềm năng cho kẻ xấu.

Một ví dụ điển hình là tính năng Sky Voice của OpenAI, từng vấp phải làn sóng chỉ trích khi bị phát hiện tái tạo giọng nói gần như giống hệt nữ diễn viên Scarlett Johansson.

Trong một trường hợp khác, bản ghi âm giả mạo giọng cựu Tổng thống Mỹ Joe Biden kêu gọi về vấn đề bầu cử Mỹ với nội dung tiêu cực đã bị phát tán trên mạng xã hội, làm dấy lên sự lo ngại khi một mẫu giọng nói AI có thể mô phỏng người quá chính xác.

Không dừng lại ở việc sao chép giọng nói, các công cụ này còn được tích hợp để thực hiện các cuộc gọi lừa đảo tự động. Kẻ xấu dễ dàng đánh lừa nạn nhân bằng cách giả danh người thân hoặc bạn bè.

Theo báo cáo từ công ty an ninh mạng F-Secure, chỉ cần vài giây âm thanh là AI đã có thể tái tạo giọng nói của một người với độ chân thực đủ để khiến gia đình hoặc đồng nghiệp của họ bị mắc lừa.

Tại Việt Nam, các cơ sở ban ngành như Bộ Thông tin và Truyền thông liên tục đưa cảnh báo cho người dân, đề cao cảnh giác các thủ đoạn lừa đảo trên không gian mạng, trong đó bao gồm những cuộc gọi, video call ứng dụng AI giả giọng nói kết hợp Deepfake để lừa đảo, chiếm đoạt tài sản.

Biện pháp đối phó với rủi ro từ AI

Trước thực trạng trên, các chuyên gia an ninh mạng khuyến cáo người dùng cần thận trọng trong việc chia sẻ thông tin cá nhân, đặc biệt là các nội dung âm thanh trên mạng xã hội. Ngoài ra, cần xác minh danh tính người gọi trước khi tiết lộ bất kỳ thông tin nhạy cảm nào.

Một số tổ chức và doanh nghiệp đã đưa ra những giải pháp sáng tạo để đối phó với vấn đề này. Chẳng hạn, mạng viễn thông O2 tại Anh đã phát triển Daisy – một "bà cụ AI" chuyên đánh lạc hướng kẻ lừa đảo bằng cách giữ chúng trong các cuộc trò chuyện dài vô nghĩa. Tuy nhiên, điều này cũng cho thấy sự mỏng manh của ranh giới giữa lợi dụng và bảo vệ khi AI được sử dụng.

Những công nghệ có khả năng sao chép tính cách và giọng nói con người không chỉ làm mờ ranh giới giữa thực và ảo, mà còn đe dọa tính riêng tư và an toàn của mỗi cá nhân. Trong bối cảnh đó, sự cảnh giác và hiểu biết chính là lớp phòng thủ đầu tiên trước những mối nguy hiểm mà AI mang lại.