Prejudice
Strategy: Khi thiết kế quy trình ra quyết định liên quan tới con người (chấm điểm tín dụng, duyệt hồ sơ), tách rõ dữ liệu hành vi khách quan khỏi các trường có thể trở thành proxy cho nhóm nhân khẩu học, và audit định kỳ outcome theo nhóm để phát hiện thiên lệch không chủ đích.
Prejudice là cảm xúc (không phải suy nghĩ hay hành vi) hướng về một người chỉ dựa trên việc họ thuộc về một nhóm nào đó, bất kể đặc điểm cá nhân thực tế của người đó. Trong tâm lý học xã hội, đây là một trong ba thành phần của mô hình ABC kinh điển: Affect (prejudice — cảm xúc), Behavior (discrimination — hành vi phân biệt đối xử), Cognition (stereotype — niềm tin/khuôn mẫu). Ba khái niệm liên quan chặt chẽ nhưng không đồng nhất: một người có thể mang định kiến (cảm xúc tiêu cực) mà không hành động phân biệt đối xử ra ngoài, hoặc mang khuôn mẫu nhận thức mà không kèm cảm xúc tiêu cực rõ rệt.
Khung lý thuyết hiện đại phần lớn bắt nguồn từ cuốn “The Nature of Prejudice” (1954) của Gordon Allport, trong đó ông đề xuất “contact hypothesis” — giả thuyết rằng tiếp xúc có cấu trúc, bình đẳng về vị thế giữa các nhóm khác biệt, trong điều kiện phù hợp (mục tiêu chung, được thể chế ủng hộ), có thể làm giảm định kiến theo thời gian. Một dòng nghiên cứu khác, minimal group paradigm của Henri Tajfel thập niên 1970, cho thấy định kiến và thiên vị nhóm có thể hình thành gần như tức thì chỉ từ việc chia người tham gia thành hai nhóm ngẫu nhiên, hoàn toàn không có lịch sử xung đột hay khác biệt thực chất nào — cho thấy cơ chế phân loại “chúng ta / họ” tự nó đã đủ để châm ngòi định kiến.
Trong sản phẩm và dữ liệu, prejudice ở cấp độ con người có thể “hóa thạch” thành thiên lệch thuật toán: mô hình chấm điểm tín dụng huấn luyện trên dữ liệu lịch sử có thể học các mẫu hình phản ánh định kiến xã hội quá khứ, dù không dùng trực tiếp thuộc tính nhạy cảm — qua các biến proxy như mã bưu điện, trường học, hay lịch sử tín dụng vốn đã chịu ảnh hưởng của bất bình đẳng tiếp cận tài chính trước đó (gần giống “redlining” trong lịch sử ngân hàng Mỹ). Vì vậy đội risk và data cần chủ động audit outcome theo nhóm, không chỉ audit input.
Prejudice có gốc rễ chung với in-group-bias — xu hướng thiên vị nhóm mình thuộc về, một trong những cơ chế hình thành định kiến với nhóm khác. Nó được củng cố bởi out-group-homogeneity-bias — xu hướng nhìn nhận thành viên nhóm khác “giống nhau hết” trong khi nhìn nhóm mình đa dạng, khiến định kiến dễ khái quát hóa cho cả một nhóm lớn. Và nó song hành với stereotyping và implicit-stereotypes — thành phần nhận thức thường đi kèm và củng cố lẫn nhau với thành phần cảm xúc của định kiến, đặc biệt ở dạng vô thức có thể đo được qua các công cụ như Implicit Association Test (Greenwald, 1998).