Đánh giá ngành công nghiệp AI

Các nhà nghiên cứu phân tích mẫu thạch nhũ để tìm hiểu về lịch sử khí hậu 40.000 năm. Nguồn: RUB, Marquard

Sau cuộc họp đầu tiên của AI100 năm 2016, nhóm đã lên kế hoạch gặp mặt 5 năm một lần để thảo luận hiện trạng ngành công nghiệp AI với hi vọng những báo cáo từ các phiên họp sẽ phản ánh sự phát triển và cả mối lo ngại về công nghệ AI, qua đó đưa ra dự đoán cho thế kỷ tiếp theo và trở thành nguồn thông tin cho các nhà hoạch định chính sách và những bên liên quan định hình tương lai AI trong xã hội.
Tuy vậy, công nghệ đang phát triển nhanh hơn dự kiến. Ban tổ chức AI100 cảm thấy có nhiều vấn đề cần thảo luận trước phiên họp tiếp theo dự kiến vào năm 2020. Báo cáo kết quả từ 2 hội thảo gần đây vẽ ra bức tranh về những cạm bẫy tiềm ẩn trong việc đẩy vấn đề của con người cho công nghệ giải quyết thay vì tìm hiểu nguyên nhân vấn đề, hoặc cho phép những mô hình dự đoán lỗi thời hoạt động mà không bị kiểm soát. “Các báo cáo nắm bắt bản chất chu kỳ về quan điểm và thái độ của công chúng đối với AI. Có những lúc người ta cường điệu và phấn khích với AI, cũng có những lúc thất vọng và vỡ mộng mà chúng tôi gọi là các mùa đông AI”, Peter Stone, giáo sư khoa học máy tính tại Đại học Texas-Austin, từng là chủ tịch hội đồng nghiên cứu của báo cáo hội thảo trước và hiện là chủ tịch ủy ban thường trực AI100, nhận xét. 
Mục đích của chương trình nghiên cứu dài hạn này nhằm gói gọn tất cả những thăng trầm, tạo ra cái nhìn dài hạn về trí tuệ nhân tạo.
Ở hội thảo thứ nhất “Coding Caring: Human Values for an Intimate AI” (Lập trình chăm sóc: Những giá trị nhân bản cho một AI thân thiết), những người tham gia hội thảo tranh luận về khả năng chăm sóc của AI kết luận: bản thân việc chăm sóc sức khỏe không phải là thứ có thể được mã hóa trong công nghệ. Họ khuyến nghị các công nghệ mới nên được tích hợp vào mối quan hệ chăm sóc giữa người với người. 
Các thành viên tham gia hội thảo coi công nghệ chăm sóc như công cụ bổ sung cho mối quan hệ chăm sóc giữa người với người. Công nghệ có thể đưa ra lời nhắc nhở uống thuốc hoặc theo dõi thông tin sức khỏe, nhưng chúng bị hạn chế về khả năng bày tỏ sự cảm thông hoặc hỗ trợ về cảm xúc cho con người. Đây là những điều không thể chuyển hóa hoặc rút gọn thành những nhiệm vụ định hướng kết quả cho máy móc được.
“Chúng tôi lo lắng rằng công nghệ có thể làm đóng băng những tương tác có ý nghĩa của con người. Hy vọng báo cáo AI2020 và các báo cáo khác trong lĩnh vực sẽ góp phần ngăn chặn ‘kỷ băng hà’ ấy bằng việc thách thức và làm thay đổi văn hóa xung quanh quá trình thiết kế, triển khai công nghệ chăm sóc trong xã hội”, Fay Niker, giảng viên triết học tại Đại học Stirling và là chủ tịch hội thảo thứ nhất nói.
Ở hội thảo thứ hai “Prediction in Practice” (Dự đoán qua thực hành), những người tham gia hội thảo đã đưa ra khái niệm “hạn sử dụng” để quản lý việc hoạt động của AI theo thời gian. “AI được đào tạo dựa trên dữ liệu quá khứ để dự đoán tương lai. Mọi thứ đều thay đổi trong bất kỳ lĩnh vực nào, vì vậy chúng ta cần phải cập nhật hoặc đánh giá lại AI đó,” Altman nhận xét.
Các quyết định quan trọng có thể xoay quanh những công nghệ này, chẳng hạn đánh giá rủi ro trong hệ thống tư pháp hình sự hay sàng lọc hệ thống bảo vệ trẻ em. Nhưng Robinson nhấn mạnh, quyết định cuối cùng phải là sự kết hợp ròng giữa kết quả thuật toán và cách lý giải của người sử dụng công nghệ. Cần có sự quản lý nghiêm ngặt đối với thông tin do AI cung cấp cũng như người diễn giải thông tin đó. 
Theo Altman, cả hai hội thảo đều đi đến kết luận các quy định cần thiết cho công nghệ AI. Nhưng liệu ngành công nghiệp này có thể tự điều chỉnh hay sẽ cần những thực thể khác nào để giám sát tiến trình vẫn còn là câu hỏi. □

Ngô Hà lược dịch
Nguồn: https://news.stanford.edu/2019/11/26/snapshot-artificial-intelligence-reveals-challenges/