AI cảm xúc (Emotional AI) là lĩnh vực Trí tuệ nhân tạo được phát triển dựa trên lý thuyết về “cảm xúc cơ bản” nói rằng mọi người ở khắp mọi nơi giao tiếp sáu trạng thái cảm xúc cơ bản bên trong – hạnh phúc, ngạc nhiên, sợ hãi, ghê tởm, tức giận và buồn bã – bằng cách sử dụng các chuyển động trên khuôn mặt giống nhau dựa trên nguồn gốc sinh học và tiến hóa của chúng ta.
Nhà phân tích Whit Andrews của Gartner nhận định rằng ngày càng nhiều công ty đang bước vào kỷ nguyên mà trí tuệ nhân tạo là một phần của mọi dự án mới. Một ứng dụng AI như vậy sử dụng tính năng nhận dạng khuôn mặt để phân tích các biểu cảm dựa trên khuôn mặt của một người để phát hiện cảm xúc hoặc cảm xúc bên trong, động lực và thái độ của họ.
Nhìn chung, giả định này có vẻ hợp lý, vì nét mặt là một khía cạnh thiết yếu của giao tiếp phi ngôn ngữ.
Một bài báo gần đây của công ty phân tích ngành công nghệ AIMultiple cho biết cảm xúc AI là một công nghệ mới nổi “cho phép máy tính và hệ thống xác định, xử lý và mô phỏng cảm xúc và cảm xúc của con người”. Đây là một lĩnh vực liên ngành pha trộn giữa khoa học máy tính, tâm lý học và khoa học nhận thức để hỗ trợ các doanh nghiệp đưa ra quyết định tốt hơn, thường là để cải thiện độ tin cậy, tính nhất quán và hiệu quả.
AI cảm xúc đang được sử dụng như thế nào?
Trong số các ứng dụng hiện tại, phần mềm AI cảm xúc được triển khai rộng rãi để chấm điểm các cuộc phỏng vấn video với các ứng viên việc làm về các đặc điểm như “nhiệt tình”, “sẵn sàng học hỏi”, “tận tâm và trách nhiệm” và “tính ổn định cá nhân”. Phần mềm này cũng được lực lượng biên phòng sử dụng để phát hiện các mối đe dọa tại các trạm kiểm soát biên giới, như một công cụ hỗ trợ để phát hiện và chẩn đoán bệnh nhân mắc chứng rối loạn tâm trạng, giám sát lớp học xem có buồn chán hoặc gián đoạn và theo dõi hành vi của con người trong các cuộc gọi điện video.
Việc sử dụng công nghệ như vậy đang ngày càng phổ biến. Ví dụ, ở Hàn Quốc, việc sử dụng AI theo cảm xúc đã trở nên phổ biến trong các cuộc phỏng vấn việc làm đến mức các chuyên gia chuyển dụng thường bắt khách hàng của họ thực hành qua các cuộc phỏng vấn AI. Startup EmotionTrac giới thiệu một phần mềm cho các luật sư để phân tích các biểu thức trong thời gian thực để tìm ra những tranh luận nào sẽ đến với các bồi thẩm viên tiềm năng. Đại học Tel Aviv đã phát triển một kỹ thuật phát hiện lời nói dối thông qua phân tích cơ mặt và khẳng định độ chính xác là 73%. Apple đã được cấp bằng sáng chế cho việc “điều chỉnh hoạt động ứng dụng thông minh để phản ứng với các biểu hiện trên khuôn mặt hoặc cảm xúc”.
Trí tuệ nhân tạo cảm xúc dựa trên khoa học giả (chưa được công nhận)
Tuy nhiên, AI về cảm xúc có rất nhiều sự mơ hồ và tranh cãi, đặc biệt là bởi vì các nhà nghiên cứu đã xác định rằng các biểu hiện trên khuôn mặt rất khác nhau giữa các bối cảnh và nền văn hóa. Và có bằng chứng cho thấy rằng các chuyển động trên khuôn mặt có biên độ thay đổi quá rộng để trở thành tín hiệu nhất quán về ý nghĩa cảm xúc. Một số người cho rằng các biểu hiện được cho là phổ quát mà hệ thống nhận dạng được xây dựng, chỉ đơn giản là đại diện cho các khuôn mẫu văn hóa. Hơn nữa, ngày càng có nhiều bằng chứng cho thấy khoa học phân loại cảm xúc được xây dựng là sai, cho rằng không có đủ bằng chứng để nói rằng biểu hiện khuôn mặt phản ánh một cách chính xác, đáng tin cậy và cụ thể các trạng thái cảm xúc.
Trích lời Sandra Wachter, nhà tương lai học Tracey Follows đã chia sẻ rằng công nghệ này “tốt nhất là không có cơ sở nào được chứng minh trong khoa học và tệ nhất nó là khoa học giả tuyệt đối”.
Nhà đạo đức học AI Kate Crawford đi xa hơn một bước, kết luận rằng không có bằng chứng xác đáng nào cho thấy nét mặt tiết lộ cảm xúc của một người. Do đó, các quyết định được đưa ra dựa trên cảm xúc AI có nhiều điểu không chắc chắn.
Mối quan lo này khiến ít nhất một số công ty rút lui khỏi việc phát triển hoặc triển khai AI cảm xúc. Microsoft gần đây đã cập nhật khung Tiêu chuẩn AI có trách nhiệm của họ, hướng dẫn cách họ xây dựng hệ thống AI để đảm bảo các kết quả có lợi và công bằng hơn cũng như phát triển AI đáng tin cậy. Một kết quả của quá trình đánh giá nội bộ của họ đối với các sản phẩm và dịch vụ AI sử dụng khuôn khổ này là “loại bỏ” các khả năng trong Azure Face để “suy ra trạng thái cảm xúc và thuộc tính nhận dạng”. Theo công ty, quyết định này dựa trên sự thiếu đồng thuận của các chuyên gia về cách suy luận cảm xúc từ ngoại hình, đặc biệt là khi có liên quan yếu tố nhân khẩu học khi sử dụng và lo những lo ngại về sự riêng tư. Nói tóm lại, công ty đang chứng minh việc sử dụng AI có trách nhiệm hoặc ít nhất là cách tránh những tác động có thể có từ công nghệ này.
Ngay cả với những lo ngại trên, thị trường AI cảm xúc đang tăng mạnh, được dự báo sẽ tăng trưởng với tốc độ tăng trưởng kép hàng năm là 12% đến năm 2028. Vốn đầu tư mạo hiểm đang tiếp tục đổ vào lĩnh vực này. Ví dụ, Uniphore, một công ty hiện đang cung cấp phần mềm tích hợp AI cảm xúc, gần đây đã đóng 400 triệu đô la trong chuỗi tài trợ với mức định giá 2,5 tỷ đô la.
Công nghệ AI cảm xúc tương tự đã được các doanh nghiệp sử dụng để cải thiện năng suất trong vài năm. Một bài báo của Insider đã báo cáo rằng các nhà tuyển dụng ở Trung Quốc sử dụng “công nghệ giám sát cảm xúc” để điều chỉnh quy trình làm việc, bao gồm cả việc bố trí và nghỉ giải lao của nhân viên, nhằm tăng năng suất và lợi nhuận.
Không chỉ có các doanh nghiệp mới quan tâm đến công nghệ này. Theo các báo cáo được công bố gần đây, Viện Trí tuệ nhân tạo tại Hefei Comprehensive National Science Center ở Trung Quốc đã tạo ra một chương trình AI đọc các biểu hiện trên khuôn mặt và sóng não để “phân biệt mức độ chấp nhận đối với giáo dục chính trị và tư tưởng”. Các đối tượng thử nghiệm được xem video về đảng cầm quyền trong khi chương trình AI thu thập và xử lý dữ liệu. Sau đó, nó trả về một điểm số cho biết liệu đối tượng có cần giáo dục chính trị nhiều hơn hay không và đánh giá xem họ có đủ trung thành hay không. Theo bài báo của The Telegraph, phần chấm điểm bao gồm chủ đề “quyết tâm biết ơn đảng, lắng nghe đảng và đi theo đảng”.
Mọi làn sóng đổi mới đều tạo ra kẻ thắng người thua và mang đến những yếu tố có thể gây bất lợi cho một số nhóm người dùng. Sử dụng AI cảm xúc là sự kết hợp giữa giám sát có chủ đích và chủ nghĩa Taylo (Quản lý theo khoa học là lý thuyết quản lý dựa trên quá trình phân tích, tổng hợp các quy trình công việc nhằm nâng cao năng suất lao động), vẫn là một điều đang nghi ngờ. Hơn nữa, lĩnh vực này dựa trên một tiền đề khoa học không chính xác và có thể sai lầm.
Neuroscience News đặt câu hỏi rằng liệu chúng ta có muốn theo dõi như vậy trong cuộc sống của mình hay không ngay cả khi AI cảm xúc có thể được thiết kế để đọc chính xác cảm xúc của mọi người. Câu hỏi này liên quan đến ván đề quyền riêng tư. Mặc dù có thể có những trường hợp sử dụng AI cảm xúc theo hướng tích cực.
Dù vậy, việc áp dụng AI cảm xúc không bị kiểm soát ngoại trừ các ý kiến trái chiều từ dư luận, vì việc sử dụng AI phần lớn vẫn chưa được kiểm soát trên toàn thế giới.
