Geoff Ralston, nổi tiếng trong cộng đồng startup vì nhiều năm làm việc tại Y Combinator, đã công bố vào thứ Năm.
Quỹ mới của ông được gọi là Quỹ Trí Tuệ Nhân Tạo An Toàn, hay SAIF, đồng thời là giải thích về lập luận và một trò chơi trên lời nói.
Ralston đặc biệt tìm kiếm các startup "nâng cao an toàn, bảo mật và triển khai có trách nhiệm" như trang web của quỹ mô tả. Ông dự định viết những chiếc séc trị giá 100.000 đô la dưới dạng SAFE, "có ý định", ông nói, với một khối lượng 10 triệu đô la. Một SAFE, tất nhiên, là công cụ đầu tư tiền/ giá sau này trước giống như được sáng tạo bởi Y Combinator (nó viết tắt cho thỏa thuận đơn giản cho cổ phần tương lai).
Trong khi hầu hết các nhà đầu tư rủi ro như ngày nay đều muốn đầu tư vào các startup AI, quan điểm của Ralston hơi tập trung hơn vào ý tưởng về AI an toàn, mặc dù ông thừa nhận rằng khái niệm này hơi rộng lớn.
'Hầu hết các dự án AI hiện nay trên thế giới đang sử dụng công nghệ để giải quyết vấn đề hoặc tạo ra hiệu quả hoặc tạo ra khả năng mới. Họ không nhất thiết đảm bảo an toàn, nhưng an toàn không phải là mối quan tâm chính của họ," Ralston nói với TechCrunch. 'Tôi dự định tài trợ cho các startup mục tiêu chính là AI an toàn - như tôi đã xác định (rộng rãi)'.
Danh sách này bao gồm các startup tập trung vào việc cải thiện an toàn của AI, như những người làm rõ quá trình ra quyết định của AI hoặc đánh giá an toàn của AI. Nó bao gồm các sản phẩm bảo vệ tài sản trí tuệ, những sản phẩm đảm bảo AI tuân thủ yêu cầu về tuân thủ, chiến đấu chống thông tin sai lệch và phát hiện các cuộc tấn công được tạo ra bởi AI. Ông cũng muốn đầu tư vào các công cụ AI chức năng với việc tư duy an toàn từ đầu, chẳng hạn như các công cụ dự báo AI tốt hơn và các công cụ đàm phán kinh doanh dựa trên AI không tiết lộ bí mật của công ty cho người ngoài.
Điều này có thể nghe có vẻ như là một danh sách các startup AI mà nhiều nhà đầu tư rủi ro đang theo đuổi, nhưng có những lĩnh vực mà Ralston nói rằng ông sẽ không đầu tư. Một ví dụ là vũ khí hoàn toàn tự động.
'Chắc chắn có những ứng dụng của AI sẽ không an toàn: sử dụng công nghệ để tạo ra vũ khí sinh học, quản lý vũ khí thông thường mà không có con người trong vòng lặp, v.v.," ông giải thích. 'Thực tế, ông muốn tài trợ 'hệ thống an toàn vũ khí' có thể phát hiện hoặc ngăn chặn các cuộc tấn công từ vũ khí AI. '
Đây là một quan điểm đối lập thú vị của nhiều nhà sáng lập công nghệ quốc phòng và nhà đầu tư rủi ro ngày nay. Như TechCrunch đã đưa tin trước đó, một số người đang phát triển vũ khí AI ngày càng nhắm đến ý tưởng rằng các vũ khí như vậy sẽ hoạt động tốt hơn mà không cần con người.
Tuy nhiên, tất cả mọi thứ liên quan đến AI đều là một lĩnh vực đông đảo đối với các nhà đầu tư rủi ro ngày nay. Đó là nơi Ralston hy vọng mối quan hệ YC của mình có thể mang lại lợi thế. Ralston rời YC vào năm 2022, sau ba năm giữ chức tổng giám đốc (được kế nhiệm bởi Garry Tan) và hơn một thập kỷ làm cố vấn.
Ralston dự định cung cấp sự hướng dẫn như ông đã làm tại trung tâm tăng tốc startup nổi tiếng và đã cam kết sẽ hướng dẫn họ qua quá trình nộp đơn vào YC. Và ông đang cung cấp giúp họ tiếp cận mạng lưới đầu tư của mình.
Ralston từ chối tiết lộ quỹ này có lớn hay không, ông dự định sẽ đầu tư vào bao nhiêu startup, hoặc người hỗ trợ LP của ông là ai.
