giahamdzui
06-03-2023, 01:29 AM
Hơn 350 chuyên gia cảnh báo AI có nguy cơ hủy diệt nhân loại
Vào thứ Ba (30/5), một nhóm các nhà khoa học và lãnh đạo ngành công nghệ, bao gồm Giám đốc điều hành OpenAI – Sam Altman, đã cảnh báo về những rủi ro do trí tuệ nhân tạo (AI) gây ra, so sánh tác động tiềm tàng của nó với chiến tranh hạt nhân.
https://trithucvn.org/wp-content/uploads/2023/05/GettyImages-489655282.jpg
Sam Altman tại San Francisco hôm 23/9/2015. (Ảnh: Steve Jennings/Getty Images cho TechCrunch)
Cảnh báo chỉ là một câu:
“Giảm nguy cơ trí tuệ nhân tạo diệt chủng nhân loại, nên xếp nó thành ưu tiên toàn cầu bên cạnh các nguy cơ quy mô xã hội khác, chẳng hạn như đại dịch và chiến tranh hạt nhân.”
Họ viết trên trang web của Trung tâm An toàn Trí tuệ Nhân tạo (Center for AI Safety，CAIS), một tổ chức phi lợi nhuận có trụ sở tại San Francisco.
Tuyên bố vẫn đang mời mọi người ký tên.
Hiện tại, tuyên bố đã được ký bởi hơn 350 quản lý cấp cao, nhà nghiên cứu và kỹ sư tham gia nghiên cứu trí tuệ nhân tạo, bao gồm Sam Altman (Giám đốc điều hành OpenAI), Demis Hassabis (Giám đốc điều hành Google DeepMind) và Dario Amodei (Giám đốc điều hành Anthropic).
Ông Geoffrey Hinton và ông Yoshua Bengio, thường được coi là “cha đỡ đầu” của trí tuệ nhân tạo hiện đại, cũng đã ký vào bản tuyên bố.
“Cha đỡ đầu” của AI rời Google để cảnh báo về sự nguy hiểm của công nghệ này
Tuyên bố từ Trung tâm An toàn AI thừa nhận rằng đã có cuộc thảo luận gay gắt về tác động tiềm ẩn của AI, đặc biệt là kể từ khi ra mắt ChatGPT vào tháng 11 năm ngoái.
Tuyên bố cho biết: “Các chuyên gia AI, nhà báo, nhà hoạch định chính sách và công chúng đang ngày càng thảo luận nhiều hơn về nhiều rủi ro quan trọng và cấp bách do AI gây ra. Mặc dù vậy, cũng rất khó để bày tỏ lo ngại về một số rủi ro nghiêm trọng nhất đối với trí tuệ nhân tạo tiên tiến. Tuyên bố ngắn gọn dưới đây nhằm khắc phục trở ngại này, đồng thời mở ra cuộc thảo luận.”
Sáng kiến này cũng nhằm nhấn mạnh rằng “ngày càng nhiều chuyên gia và nhân vật của công chúng cũng đang coi trọng một số rủi ro nghiêm trọng nhất của trí tuệ nhân tạo tiên tiến.”
Tuyên bố này được đưa ra sau các sáng kiến khác gần đây của một số chuyên gia công nghệ và nhà khoa học, họ bày tỏ lo ngại về sự phát triển nhanh chóng của trí tuệ nhân tạo.
Hồi tháng 3, hơn 1.000 nhà lãnh đạo và chuyên gia về AI đã kêu gọi tạm dừng phát triển ChatGPT.
https://scontent.fymq3-1.fna.fbcdn.net/v/t39.30808-6/347266454_290635613302142_2383172687653792254_n.jp g?stp=dst-jpg_p526x296&_nc_cat=102&ccb=1-7&_nc_sid=8024bb&_nc_ohc=ltI8W38hDUcAX9lrO2U&_nc_ht=scontent.fymq3-1.fna&edm=AN6CN6oEAAAA&oh=00_AfD2u31j-JDrDLXGCOZBaF5TiJYSsNOjCc-RD5IgSihdew&oe=647F5CD5
Hôm 27/5 CBS News báo cáo quân đội Hoa Kỳ hiện đang thử nghiệm máy bay F-16 tự động chiến đấu, và trong các trận không chiến mô phỏng thì AI đã đè bẹp các phi công con người được đào tạo bài bản. “Phi công phải ăn, phải ngủ,… còn có phi công không tuân lệnh…” —với trích đoạn phim “Top Gun Maverick” làm minh họa— vậy phải chăng “sớm hay muộn thì một ngày nào đó sẽ không cần phi công nào nữa,” khi trí tuệ nhân tạo AI kết hợp công nghệ robot hiện đại thành máy móc tự trị sẽ đủ khả năng thay thế con người?
‘Cha đẻ’ của ChatGPT Sam Altman điều trần trước Quốc hội Mỹ
Hôm 16/5, người đứng đầu công ty OpenAI, ‘cha đẻ’ của ChatGPT, đã phát biểu trước Quốc hội Mỹ rằng sự can thiệp của chính phủ là điều vô cùng quan trọng để giảm thiểu rủi ro của các hệ thống AI vốn đang phát triển một cách mạnh mẽ.
Phát biểu tại phiên điều trần của Thượng viện, anh Sam Altman nói rằng: “Khi công nghệ này tiến bộ, chúng tôi hiểu rằng mọi người lo lắng về cách mà nó có thể thay đổi cuộc sống của chúng ta. Chúng tôi cũng vậy.”
Altman đã đề xuất thành lập một cơ quan tại Mỹ hoặc trên toàn thế giới chịu trách nhiệm cấp phép cho các hệ thống AI mạnh nhất, đồng thời có quyền “thu hồi giấy phép đó và đảm bảo việc tuân thủ các tiêu chuẩn an toàn.”
Những rủi ro mang tính xã hội này đã khiến anh Altman và các CEO công nghệ khác phải trình diện trước Nhà Trắng vào đầu tháng Năm và khiến các cơ quan của Hoa Kỳ hứa sẽ trấn áp những sản phẩm AI có hại, vi phạm quyền dân sự và luật bảo vệ người tiêu dùng hiện hành. Tuy nhiên, không có dấu hiệu ngay lập tức rằng Quốc hội Mỹ sẽ xây dựng các quy định mới về AI, như cách các nhà lập pháp châu Âu đang tiến hành.
Trí Đạt (t/h)
Vào thứ Ba (30/5), một nhóm các nhà khoa học và lãnh đạo ngành công nghệ, bao gồm Giám đốc điều hành OpenAI – Sam Altman, đã cảnh báo về những rủi ro do trí tuệ nhân tạo (AI) gây ra, so sánh tác động tiềm tàng của nó với chiến tranh hạt nhân.
https://trithucvn.org/wp-content/uploads/2023/05/GettyImages-489655282.jpg
Sam Altman tại San Francisco hôm 23/9/2015. (Ảnh: Steve Jennings/Getty Images cho TechCrunch)
Cảnh báo chỉ là một câu:
“Giảm nguy cơ trí tuệ nhân tạo diệt chủng nhân loại, nên xếp nó thành ưu tiên toàn cầu bên cạnh các nguy cơ quy mô xã hội khác, chẳng hạn như đại dịch và chiến tranh hạt nhân.”
Họ viết trên trang web của Trung tâm An toàn Trí tuệ Nhân tạo (Center for AI Safety，CAIS), một tổ chức phi lợi nhuận có trụ sở tại San Francisco.
Tuyên bố vẫn đang mời mọi người ký tên.
Hiện tại, tuyên bố đã được ký bởi hơn 350 quản lý cấp cao, nhà nghiên cứu và kỹ sư tham gia nghiên cứu trí tuệ nhân tạo, bao gồm Sam Altman (Giám đốc điều hành OpenAI), Demis Hassabis (Giám đốc điều hành Google DeepMind) và Dario Amodei (Giám đốc điều hành Anthropic).
Ông Geoffrey Hinton và ông Yoshua Bengio, thường được coi là “cha đỡ đầu” của trí tuệ nhân tạo hiện đại, cũng đã ký vào bản tuyên bố.
“Cha đỡ đầu” của AI rời Google để cảnh báo về sự nguy hiểm của công nghệ này
Tuyên bố từ Trung tâm An toàn AI thừa nhận rằng đã có cuộc thảo luận gay gắt về tác động tiềm ẩn của AI, đặc biệt là kể từ khi ra mắt ChatGPT vào tháng 11 năm ngoái.
Tuyên bố cho biết: “Các chuyên gia AI, nhà báo, nhà hoạch định chính sách và công chúng đang ngày càng thảo luận nhiều hơn về nhiều rủi ro quan trọng và cấp bách do AI gây ra. Mặc dù vậy, cũng rất khó để bày tỏ lo ngại về một số rủi ro nghiêm trọng nhất đối với trí tuệ nhân tạo tiên tiến. Tuyên bố ngắn gọn dưới đây nhằm khắc phục trở ngại này, đồng thời mở ra cuộc thảo luận.”
Sáng kiến này cũng nhằm nhấn mạnh rằng “ngày càng nhiều chuyên gia và nhân vật của công chúng cũng đang coi trọng một số rủi ro nghiêm trọng nhất của trí tuệ nhân tạo tiên tiến.”
Tuyên bố này được đưa ra sau các sáng kiến khác gần đây của một số chuyên gia công nghệ và nhà khoa học, họ bày tỏ lo ngại về sự phát triển nhanh chóng của trí tuệ nhân tạo.
Hồi tháng 3, hơn 1.000 nhà lãnh đạo và chuyên gia về AI đã kêu gọi tạm dừng phát triển ChatGPT.
https://scontent.fymq3-1.fna.fbcdn.net/v/t39.30808-6/347266454_290635613302142_2383172687653792254_n.jp g?stp=dst-jpg_p526x296&_nc_cat=102&ccb=1-7&_nc_sid=8024bb&_nc_ohc=ltI8W38hDUcAX9lrO2U&_nc_ht=scontent.fymq3-1.fna&edm=AN6CN6oEAAAA&oh=00_AfD2u31j-JDrDLXGCOZBaF5TiJYSsNOjCc-RD5IgSihdew&oe=647F5CD5
Hôm 27/5 CBS News báo cáo quân đội Hoa Kỳ hiện đang thử nghiệm máy bay F-16 tự động chiến đấu, và trong các trận không chiến mô phỏng thì AI đã đè bẹp các phi công con người được đào tạo bài bản. “Phi công phải ăn, phải ngủ,… còn có phi công không tuân lệnh…” —với trích đoạn phim “Top Gun Maverick” làm minh họa— vậy phải chăng “sớm hay muộn thì một ngày nào đó sẽ không cần phi công nào nữa,” khi trí tuệ nhân tạo AI kết hợp công nghệ robot hiện đại thành máy móc tự trị sẽ đủ khả năng thay thế con người?
‘Cha đẻ’ của ChatGPT Sam Altman điều trần trước Quốc hội Mỹ
Hôm 16/5, người đứng đầu công ty OpenAI, ‘cha đẻ’ của ChatGPT, đã phát biểu trước Quốc hội Mỹ rằng sự can thiệp của chính phủ là điều vô cùng quan trọng để giảm thiểu rủi ro của các hệ thống AI vốn đang phát triển một cách mạnh mẽ.
Phát biểu tại phiên điều trần của Thượng viện, anh Sam Altman nói rằng: “Khi công nghệ này tiến bộ, chúng tôi hiểu rằng mọi người lo lắng về cách mà nó có thể thay đổi cuộc sống của chúng ta. Chúng tôi cũng vậy.”
Altman đã đề xuất thành lập một cơ quan tại Mỹ hoặc trên toàn thế giới chịu trách nhiệm cấp phép cho các hệ thống AI mạnh nhất, đồng thời có quyền “thu hồi giấy phép đó và đảm bảo việc tuân thủ các tiêu chuẩn an toàn.”
Những rủi ro mang tính xã hội này đã khiến anh Altman và các CEO công nghệ khác phải trình diện trước Nhà Trắng vào đầu tháng Năm và khiến các cơ quan của Hoa Kỳ hứa sẽ trấn áp những sản phẩm AI có hại, vi phạm quyền dân sự và luật bảo vệ người tiêu dùng hiện hành. Tuy nhiên, không có dấu hiệu ngay lập tức rằng Quốc hội Mỹ sẽ xây dựng các quy định mới về AI, như cách các nhà lập pháp châu Âu đang tiến hành.
Trí Đạt (t/h)