OpenAI hậu thuẫn startup nhằm ngăn chặn vũ khí sinh học được hỗ trợ bởi AI

OpenAI là nhà đầu tư dẫn dắt vòng gọi vốn hạt giống trị giá 15 triệu USD của Red Queen Bio. Theo đồng sáng lập Hannu Rajaniemi, mục tiêu của startup là bảo đảm rằng các biện pháp phòng vệ của ngành AI phát triển ít nhất nhanh ngang với những bên tìm cách khai thác các mô hình AI để gây hại cho con người.
 

Khoản đầu tư này nằm trong nỗ lực rộng hơn của OpenAI nhằm hỗ trợ các startup có sứ mệnh kiểm soát và giảm thiểu rủi ro do AI gây ra. Tháng trước, OpenAI đã đầu tư vào Valthos, một startup phần mềm an ninh sinh học có trụ sở tại New York. Giám đốc Chiến lược của OpenAI, Jason Kwon, cho biết công ty sẽ cân nhắc đầu tư thêm vào các startup khác tập trung vào những vấn đề tương tự.

“Chúng tôi muốn nâng cao khả năng chống chịu tổng thể của toàn bộ hệ sinh thái,” ông Kwon nói trong một cuộc phỏng vấn. “Một trong những cách hiệu quả nhất để giảm thiểu rủi ro chính là phát triển thêm công nghệ.”

Các nhà nghiên cứu và những người ủng hộ an toàn AI nhận định rằng công nghệ AI có thể sớm đẩy nhanh quá trình phát triển thuốc hoặc thiết kế các loại vắc-xin mới. Tuy nhiên, chính những năng lực này cũng có thể khiến các đối tượng xấu dễ dàng phát triển các loại vũ khí sinh học mới và nguy hiểm hơn.

Red Queen Bio được tách ra từ Helix Nano, một công ty dược liệu mRNA đang trong giai đoạn thử nghiệm lâm sàng, vốn đã ngày càng ứng dụng AI trong thiết kế thuốc. Helix Nano cũng từng hợp tác với OpenAI để xây dựng các bài kiểm tra nhằm đánh giá rủi ro sinh học của AI, theo ông Kwon.

Giám đốc điều hành OpenAI Sam Altman và thành viên hội đồng quản trị Nicole Seligman – những người trước đây đã đầu tư vào Helix Nano – sẽ nhận cổ phần tại Red Queen Bio như một phần của giao dịch. Ông Kwon cũng là nhà đầu tư gián tiếp thông qua Y Combinator, vườn ươm startup tại Thung lũng Silicon. OpenAI cho biết phần góp vốn của ông Kwon có giá trị dưới 2.500 USD.

Theo người phát ngôn của công ty, các lãnh đạo nói trên không tham gia vào quá trình phê duyệt khoản đầu tư của OpenAI vào Red Queen Bio. Thay vào đó, Giám đốc tuân thủ của OpenAI và các thành viên hội đồng quản trị không có xung đột lợi ích đã xem xét và thông qua quyết định đầu tư.

Red Queen Bio sẽ kết hợp các mô hình AI với các thí nghiệm phòng thí nghiệm truyền thống để phát hiện những rủi ro mới và phát triển các biện pháp phòng vệ tương ứng. Tên gọi của startup được lấy cảm hứng từ một phân cảnh trong cuốn Through the Looking-Glass của Lewis Carroll.

“Rõ ràng là năng lực sinh học đang tiến triển nhanh hơn nhiều so với những gì chúng tôi dự đoán,” ông Rajaniemi nói. “Chúng tôi nhận thấy cần phải bắt đầu phát triển các biện pháp phòng thủ ngay từ bây giờ.”

Các nhà đầu tư khác của Red Queen Bio bao gồm Cerberus Ventures, Fifty Years và Halcyon Futures.
 

Theo Deepa Seetharaman – Reuters