Người ta đã bắt đầu cố gắng khiến ChatGPT viết phần mềm độc hại

Trong thời gian ngắn nó được cung cấp, chatbot AI ChatGPT đã tạo ra rất nhiều sự phấn khích và giờ đây dường như nó đã được điều tuyển để hỗ trợ tạo mã độc.

ChatGPT là một công cụ xử lý ngôn ngữ tự nhiên được điều khiển bởi trí tuệ nhân tạo, tương tác với người dùng theo cách nói chuyện giống con người. Ngoài các công việc khác, nó có thể được sử dụng để giúp đỡ việc soạn thảo email, luận văn và mã code.

Cũng như: ChatGPT là gì và tại sao nó quan trọng? Những điều bạn cần biết

Công cụ chatbot đã được phát hành bởi phòng thí nghiệm nghiên cứu trí tuệ nhân tạo OpenAI vào tháng 11 và đã gây được sự quan tâm và tranh luận rộng rãi về việc trí tuệ nhân tạo đang phát triển và như thế nào nó có thể được sử dụng trong tương lai.

Tuy nhiên, giống như bất kỳ công cụ nào khác, nếu nó được sử dụng bởi tay sai thì nó có thể được sử dụng cho mục đích độc ác; các nhà nghiên cứu an ninh mạng tại Check Point cho biết những người dùng trong cộng đồng hacker ngầm đã thử nghiệm xem ChatGPT có thể được sử dụng để giúp cho các cuộc tấn công mạng và hỗ trợ các hoạt động độc hại.

"Các vụ tấn công với người đe dọa có kiến thức kỹ thuật rất thấp - đến không có kiến thức về công nghệ - có thể tạo ra các công cụ độc hại. Điều này cũng có thể làm cho hoạt động hàng ngày của các tội phạm mạng tinh vi trở nên hiệu quả hơn và dễ dàng hơn - như tạo ra các phần khác nhau của chuỗi lây nhiễm," Sergey Shykevich, quản lý nhóm tình báo mối đe dọa tại Check Point cho biết với ZDNET.

Điều khoản dịch vụ của OpenAI cụ thể cấm tạo ra phần mềm độc hại, mà nó định nghĩa là "nội dung cố tình tạo ra phần mềm mã độc như ransomware, keyloggers, virus hoặc các phần mềm khác nhằm tạo ra mức độ thiệt hại nào đó". Nó cũng cấm các hành vi tạo ra thư rác, cũng như các trường hợp sử dụng hướng đến tội phạm mạng.

Tuy nhiên, phân tích về hoạt động của một số diễn đàn đánh cắp bảo mật bí mật chính đã cho thấy rằng các tội phạm mạng đã sử dụng ChatGPT để phát triển các công cụ độc hại - và trong một số trường hợp, nó đã cho phép các tội phạm mạng cấp thấp không có kỹ năng phát triển hoặc lập trình tạo ra phần mềm độc hại.

Ngoài ra: Tương lai đáng sợ của internet: Cách mà công nghệ của ngày mai sẽ gây ra những mối đe dọa an ninh mạng lớn hơn

Vào một chuỗi diễn đàn xuất hiện vào cuối tháng Mười Hai, người đăng đã mô tả cách họ sử dụng ChatGPT để tái tạo các chủng độc hại và kỹ thuật được mô tả trong nghiên cứu và các bài viết về phần mềm độc hại phổ biến.

Bằng cách làm như vậy, họ đã tạo ra một phần mềm đánh cắp thông tin dựa trên ngôn ngữ lập trình Python, tìm kiếm các tệp thông thường bao gồm tài liệu văn phòng của Microsoft, PDF và hình ảnh, sao chép chúng sau đó tải lên máy chủ giao thức truyền tệp.

Người dùng đó cũng đã chứng minh cách sử dụng ChatGPT để tạo ra phần mềm độc hại dựa trên Java, có thể sử dụng PowerShell để lén lút tải xuống và chạy các loại malware khác trên các hệ thống bị nhiễm.

Các nhà nghiên cứu cho biết người dùng của diễn đàn tạo ra những chủ đề này có vẻ "hướng công nghệ" và chia sẻ những bài đăng này để chỉ cho các tên tội phạm mạng ít thành thạo về công nghệ cách sử dụng các công cụ trí tuệ nhân tạo cho mục đích độc hại, kèm theo ví dụ thực tế về cách thực hiện điều này.

Một người dùng đã đăng một tập lệnh Python, và họ nói đó là tập lệnh đầu tiên mà họ đã tạo. Sau khi thảo luận với một thành viên khác trên diễn đàn, họ nói rằng ChatGPT đã giúp họ tạo ra nó.

Phân tích kịch bản cho thấy nó được thiết kế để mã hóa và giải mã tệp tin, điều đó với một số công việc có thể được chuyển đổi thành phần mềm đòi tiền chuộc, tiềm năng dẫn đến khả năng kẻ tội phạm mạng cấp thấp phát triển và phân phối các chiến dịch tống tiền của riêng họ.

"Tất cả các đoạn mã được đề cập trên, tất nhiên có thể được sử dụng một cách không độc hại. Tuy nhiên, tập lệnh này có thể được sửa đổi dễ dàng để mã hóa toàn bộ máy tính của người dùng mà không cần bất kỳ tương tác nào. Ví dụ, nó có thể tiềm tàng biến mã thành phần mềm ransomware nếu các vấn đề về cú pháp và kịch bản được sửa chữa," Check Point nói.

"Nó sẽ đòi hỏi một số cải tiến về mã và cú pháp, nhưng về mặt khái niệm khi hoạt động, công cụ này có thể thực hiện các hành động tương tự với Ransomware," tuyên bố Shykevich.

Ngoài ra: An ninh mạng: Đây là những điều mới cần phải lo lắng đến năm 2023

Không chỉ là việc phát triển phần mềm độc hại mà tội phạm mạng còn đang thử nghiệm với ChatGPT; vào đêm giao thừa, một thành viên diễn đàn ngầm đã đăng một chủ đề trình bày cách sử dụng công cụ này để tạo ra các kịch bản có thể vận hành một thị trường web tối tự động để mua bán thông tin tài khoản bị đánh cắp, thông tin thẻ tín dụng, phần mềm độc hại và nhiều hơn nữa.

Kẻ phạm tội mạng đã thậm chí cho thấy một đoạn mã được tạo ra bằng cách sử dụng API của bên thứ ba để nhận giá cập nhật cho các loại tiền điện tử Monero, Bitcoin và Ethereum như một phần của hệ thống thanh toán cho một thị trường web tối.

Việc xác định xem hoạt động tấn công mạng độc hại được tạo ra nhờ ChatGPT có hoạt động trong tự nhiên hay không là khó khăn, vì như Sykevich giải thích, "từ một quan điểm kỹ thuật, rất khó để biết liệu phần mềm độc hại cụ thể nào đã được viết bằng ChatGPT hay không".

Tuy nhiên, khi sự quan tâm đến ChatGPT và các công cụ trí tuệ nhân tạo khác tăng lên, chúng sẽ thu hút sự chú ý của các tội phạm mạng và kẻ lừa đảo nhắm đến việc khai thác công nghệ này để thực hiện những chiến dịch độc hại với chi phí thấp và với sự cố gắng ít nhất cần thiết. ZDNET đã liên hệ với OpenAI để nhận được bình luận, nhưng cho đến thời điểm xuất bản thì chưa nhận được phản hồi.