Unintended Consequences
Strategy: Trước khi triển khai một thay đổi, liệt kê ba cách người bị ảnh hưởng có thể phản ứng để tối ưu cho chính họ — và kiểm tra xem thiết kế của bạn còn đứng vững trước cả ba hay không.
Unintended consequences là nguyên lý được nhà xã hội học Robert K. Merton trình bày có hệ thống năm 1936. Merton phân loại hệ quả ngoài dự tính thành ba nhóm: lợi ích bất ngờ, tác dụng phụ không mong muốn, và hệ quả nghịch — khi can thiệp làm vấn đề tệ hơn chính vấn đề nó nhắm tới. Ông cũng chỉ ra các nguồn gốc: hiểu biết không đầy đủ về hệ thống, sai lầm trong phân tích, việc chỉ nhìn lợi ích trước mắt, và trường hợp thú vị nhất là khi chính lời tiên đoán làm thay đổi hành vi khiến nó không còn đúng nữa.
Cốt lõi của vấn đề là hệ thống xã hội có tác nhân biết suy nghĩ. Một cây cầu không tìm cách lách quy định tải trọng, nhưng con người thì luôn phản ứng lại luật lệ mới bằng cách tối ưu cho lợi ích của mình trong bộ luật mới. Câu chuyện thường được kể nhất là chương trình thưởng tiền cho mỗi con rắn hổ mang bị tiêu diệt ở Ấn Độ thời thuộc địa: người dân bắt đầu nuôi rắn để lấy thưởng, và khi chương trình bị hủy, đàn rắn nuôi được thả ra khiến số rắn tăng lên. Dù mức độ xác thực lịch sử của giai thoại còn tranh cãi, cấu trúc lập luận thì lặp lại rất thật trong vô số chính sách.
Bộ khung ứng dụng gồm bốn bước. Một, mô tả rõ hành vi bạn muốn thay đổi và cơ chế nào bạn tin sẽ tạo ra thay đổi đó. Hai, đặt mình vào vị trí từng nhóm chịu tác động và hỏi họ tối ưu điều gì. Ba, tìm con đường rẻ nhất để đạt phần thưởng mới mà không tạo ra giá trị thật — đó gần như luôn là con đường sẽ được đi. Bốn, chọn trước những chỉ số cảnh báo sớm và ngưỡng để dừng, thay vì đợi tổng kết cuối kỳ.
Trong ngành tài chính số, ví dụ quen thuộc là hạ ngưỡng cảnh báo gian lận để giảm tổn thất. Tổn thất do gian lận giảm thật, nhưng tỷ lệ từ chối nhầm tăng, đội chăm sóc khách hàng quá tải, và một phần khách hàng tốt bỏ đi — chi phí thật lớn hơn khoản tiết kiệm được, chỉ là nó nằm ở bảng chỉ số của một đội khác. Tương tự, một chương trình thưởng cho nhân viên mở tài khoản mới sẽ tạo ra rất nhiều tài khoản mới, phần lớn không bao giờ có giao dịch thứ hai.
Nguyên lý này chính là lý do second-order-thinking tồn tại: câu hỏi “rồi sau đó thì sao” là công cụ phát hiện nó. Nó là cơ chế đứng sau goodharts-law, khi một chỉ số trở thành mục tiêu và người ta tối ưu chỉ số thay vì thứ nó đại diện. Nó chỉ nhìn thấy được qua systems-thinking, và nó là lý do chính đáng nhất để nghiêm túc với chestertons-fence trước khi gỡ bỏ một quy tắc chưa hiểu rõ.