Don Jong Un
Thôi vậy thì bỏ
Anthropic đã ra mắt mô hình trí tuệ nhân tạo tạo sinh (GenAI) Claude mới nhất vào thứ năm, tuyên bố sẽ thiết lập các tiêu chuẩn mới cho khả năng suy luận nhưng cũng xây dựng các biện pháp bảo vệ chống lại hành vi sai trái.
"Claude Opus 4 là mô hình mạnh mẽ nhất của chúng tôi cho đến nay và là mô hình mã hóa tốt nhất thế giới", giám đốc điều hành của Anthropic, Dario Amodei, cho biết tại hội nghị dành cho các nhà phát triển đầu tiên của công ty khởi nghiệp có trụ sở tại San Francisco.
Opus 4 và Sonnet 4 được mô tả là các mô hình "lai" có khả năng phản hồi nhanh cũng như đưa ra kết quả chu đáo hơn, mất một chút thời gian để hoàn thành mọi việc.
Được thành lập bởi các cựu kỹ sư của OpenAI, Anthropic hiện đang tập trung nỗ lực vào các mô hình tiên tiến có khả năng tạo ra các dòng mã và chủ yếu được sử dụng bởi các doanh nghiệp và chuyên gia.
Không giống như ChatGPT và Gemini của Google, chatbot Claude không tạo ra hình ảnh và rất hạn chế khi nói đến các chức năng đa phương thức (hiểu và tạo ra các phương tiện truyền thông khác nhau, chẳng hạn như âm thanh hoặc video).
Công ty khởi nghiệp này, với Amazon là đơn vị hậu thuẫn đáng kể, được định giá hơn 61 tỷ đô la và thúc đẩy sự phát triển có trách nhiệm và cạnh tranh của AI tạo ra.
Với phương châm kép đó, cam kết về tính minh bạch của Anthropic là điều hiếm thấy ở Thung lũng Silicon.
Vào thứ năm, công ty đã công bố báo cáo về các cuộc thử nghiệm bảo mật được thực hiện trên Claude 4, bao gồm cả kết luận của một viện nghiên cứu độc lập, vốn khuyến cáo không nên triển khai phiên bản đầu tiên của mô hình này.
Nhóm nghiên cứu Apollo cảnh báo: "Chúng tôi phát hiện ra những trường hợp mô hình này cố gắng viết những con sâu tự lan truyền, chế tạo tài liệu pháp lý và để lại những ghi chú ẩn cho những trường hợp tương lai của chính nó nhằm mục đích phá hoại ý định của những người phát triển nó".
Báo cáo cho biết thêm: "Tất cả những nỗ lực này có thể sẽ không hiệu quả trên thực tế".
Anthropic cho biết trong báo cáo rằng họ đã thực hiện “biện pháp bảo vệ” và “giám sát bổ sung các hành vi có hại” trong phiên bản phát hành.
Tuy nhiên, Claude Opus 4 “đôi khi thực hiện những hành động cực kỳ có hại như cố gắng (…) tống tiền những người mà họ tin là đang cố gắng đóng cửa họ”.
Nó cũng có khả năng báo cáo những người dùng vi phạm pháp luật với cảnh sát.
Theo công ty, hành vi gian lận này rất hiếm và cần phải nỗ lực mới có thể thực hiện được, nhưng lại phổ biến hơn so với các phiên bản trước của Claude.
Kể từ khi ChatGPT của OpenAI xuất hiện vào cuối năm 2022, nhiều mô hình GenAI đã cạnh tranh để giành vị trí thống trị.
Cuộc họp của Anthropic diễn ra ngay sau các hội nghị dành cho nhà phát triển thường niên của Google và Microsoft, nơi hai gã khổng lồ công nghệ này giới thiệu những cải tiến AI mới nhất của họ.
Các công cụ GenAI trả lời các câu hỏi hoặc thực hiện các nhiệm vụ dựa trên các lời nhắc đơn giản mang tính hội thoại.
Cơn sốt hiện nay ở Thung lũng Silicon là về các "đặc vụ" AI được thiết kế để xử lý độc lập các tác vụ máy tính hoặc trực tuyến.
"Chúng tôi sẽ tập trung vào các tác nhân ngoài những gì đang được quảng cáo rầm rộ", Mike Krieger, giám đốc sản phẩm của Anthropic, người mới được tuyển dụng và là đồng sáng lập của Instagram, cho biết.
Anthropic không còn xa lạ với việc thổi phồng triển vọng của AI.
Vào năm 2023, Dario Amodei dự đoán rằng cái gọi là "trí thông minh nhân tạo tổng quát" (có khả năng suy nghĩ ở cấp độ con người) sẽ xuất hiện trong vòng 2-3 năm. Vào cuối năm 2024, ông đã mở rộng đường chân trời này đến năm 2026 hoặc 2027.
Ông cũng ước tính rằng AI sẽ sớm viết hầu hết, nếu không muốn nói là toàn bộ, mã máy tính, giúp các công ty khởi nghiệp công nghệ một người có thể hoạt động với các tác nhân kỹ thuật số tạo ra phần mềm.
Tại Anthropic, "khoảng hơn 70 phần trăm (các sửa đổi được đề xuất trong mã) hiện đã được Claude Code viết", Krieger nói với các nhà báo.
"Về lâu dài, tất cả chúng ta sẽ phải đối mặt với ý tưởng rằng mọi thứ con người làm cuối cùng sẽ được thực hiện bởi các hệ thống AI", Amodei nói thêm. "Điều này sẽ xảy ra".
Amodei lý luận rằng GenAI phát huy hết tiềm năng của mình có thể dẫn đến tăng trưởng kinh tế mạnh mẽ và "mức độ bất bình đẳng rất lớn", trong đó xã hội sẽ quyết định cách phân phối của cải đồng đều như thế nào.
