메타, 인스타그램과 페이스북에서 청소년을 위한 새로운 보호 조치 발표. 부적절한 게시물을 필터링하고, 극단적인 다이어트와 강박적인 운동을 제한합니다. 좋아 보이지만, 누가 한계를 결정하는지가 문제입니다. 현실은 이러한 변화가 관대함에서 비롯된 것이 아니라, 청소년 정신 건강 피해에 대한 수백만 달러 규모의 소송 목록에서 비롯되었다는 점입니다.
한계까지 밀어붙였던 알고리즘 🤖
수년간 메타의 알고리즘은 화면 시간을 극대화하는 콘텐츠를 우선시했으며, 그것이 청소년에게 비현실적인 신체나 위험한 다이어트를 보여주는 것을 의미하더라도 마찬가지였습니다. 이제 자동 필터와 검색 제한을 통해 방향을 수정하려고 합니다. 하지만 변화는 기술적이지 않고 법적입니다. 불안과 섭식 장애를 조장했다는 소송의 압력이 시스템 재설계를 강제했습니다. 이는 혁신이 아니라 강제된 준수입니다.
이제 보니 사용자 탓이었다고? 😏
메타는 이제 마치 선정성과 비교에서 사업 기회를 본 적이 없는 것처럼 디지털 구원자 복장을 입습니다. 그 필터를 자체 비즈니스 관행에 적용했으면 좋겠네요. 하지만 아니요, 사업이 타인의 불안감 위에 세워졌다는 것을 인정하는 것보다는 돌아가며 알고리즘 탓을 하는 것이 더 쉽습니다. 변호사 비용 청구서와 함께 오는 후회란 참 아름답습니다.