รายงานสืบสวนจากอังกฤษโดย TBIJ พบชายมุสลิมผู้เคร่งศาสนาที่อาศัยปากีสถานหาเงินได้หลักพันดอลลาร์จากการนำเพจ Facebook ที่แพร่วิดีโอเหยียดเชื้อชาติมุ่งเป้าไปที่ผู้ชมในสหราชอาณาจักร - โพสต์เหล่านี้โจมตีนายกรัฐมนตรี เคียร์ สตาร์เมอร์ และนายกเทศมนตรีลอนดอน ซาดิค ข่าน และสร้างรายได้ผ่านระบบโฆษณาของ Meta - เครื่องมือ AI ใหม่ทำให้ผู้สร้างคอนเทนต์สามารถผลิตเนื้อหาที่ยั่วยุและแพร่กระจายได้อย่างรวดเร็ว โดยไม่จำเป็นต้องเข้าใจความหมายของมันด้วยซ้ำ | ภาพจาก: TBIJ

สัปดาห์หลังจากที่สงครามระหว่างสหรัฐฯ และอิหร่านปะทุขึ้น วิดีโอที่สร้างโดย AI แสดงภาพของนายกรัฐมนตรีเคียร์ สตาร์เมอร์ (Keir Starmer) ถูกแชร์ต่อกันไปบนโซเชียลมีเดีย สะสมยอดชมประมาณ 400,000 ครั้งบน Facebook และ Instagram

วิดีโอดังกล่าวแสดงภาพที่คล้ายนายกรัฐมนตรีอย่างมากขณะยืนอยู่ที่แท่นปราศรัย Downing Street ในชุดอิสลาม โดย AI กล่าวว่า "เรายังคงเป็นประเทศมุสลิมที่ภาคภูมิใจ" และกล่าวถ้อยคำที่ต่อต้านผู้อพยพชาวมุสลิมอย่างรุนแรง ก่อนจะใช้คำเหยียดเชื้อชาติต่อชาวปากีสถาน

วิดีโอที่สร้างโดย AI เพื่อเผยแพร่ข้อมูลเท็จและปลุกความเกลียดชังต่อมุสลิมกลายเป็นเรื่องปกติแล้ว โดยเฉพาะในช่วงที่มีข่าวใหญ่เกิดขึ้น แต่วิดีโอชิ้นนี้มีความผิดปกติที่น่าสนใจ เพราะผู้โพสต์คือชายมุสลิมผู้เคร่งศาสนาที่อาศัยอยู่ในปากีสถาน

ชายคนนี้ ซึ่งทีมข่าวไม่เปิดเผยชื่อเพื่อความปลอดภัยของเขา บริหารบัญชีโซเชียลมีเดียที่ประสบความสำเร็จโดยส่งเนื้อหา AI ที่ต่อต้านอิสลามไปยังผู้ชมในสหราชอาณาจักร วิดีโอจากเพจ Facebook เพียงเพจเดียวของเขามียอดชมรวมหลายล้านครั้ง และเขาบอกกับทีมข่าวในการให้สัมภาษณ์ว่าเขาได้รับรายได้ราว 1,500 ดอลลาร์ต่อเดือนจากเพจนั้นเพจเดียว

ในขณะเดียวกัน เขายังบริหารบัญชีอื่น ๆ ที่อุทิศให้กับการแบ่งปันโองการจากคัมภีร์อัลกุรอานและคำสอนของศาสนาอิสลาม หนึ่งในนั้นใช้ภาพสถานที่ศักดิ์สิทธิ์อย่างกะอ์บะฮ์ในมักกะฮ์เป็นรูปโปรไฟล์ และเขาใช้คำว่า "ฮาฟิซ" นำหน้าชื่อ ซึ่งเป็นเกียรติยศสำหรับผู้ที่ท่องจำคัมภีร์อัลกุรอานทั้งเล่มได้

ทีมข่าวได้รายงานเกี่ยวกับอุตสาหกรรมคอนเทนต์ AI แบบนี้มาก่อน โดยเคยเปิดโปงอินฟลูเอนเซอร์ชาวศรีลังกาที่ผลิตเนื้อหาเหยียดเชื้อชาติในลักษณะคล้ายกันเพื่อมุ่งเป้าไปยังผู้ชมในสหราชอาณาจักร แต่กรณีนี้แสดงให้เห็นถึงความห่างเหินระหว่างผู้สร้างกับเนื้อหาที่เผยแพร่ในระดับที่ชัดเจนยิ่งกว่า นั่นคือชาวมุสลิมปากีสถานที่แพร่กระจายเนื้อหาที่พรรณนาว่าศาสนาของตนเองเป็นภัยคุกคามต่อโลกตะวันตก

เมื่อทีมข่าวติดต่อเขา เขาพูดอย่างเปิดเผยถึงงานของตน โดยยืนยันว่าเขาไม่เข้าใจเนื้อหาของวิดีโอเพราะภาษาอังกฤษของเขาไม่ดี ก่อนจะลบโพสต์หลายรายการออก

"คุณทราบถึงสภาพความเป็นอยู่ในปากีสถานดี ราคาน้ำมันและสถานการณ์ที่เป็นอยู่ ใครก็ตามที่ทำงานแบบนี้ก็ทำเพื่อหาเลี้ยงชีพ" เขากล่าวเป็นภาษาอูรดู "เราไม่ได้สนใจเรื่องข่าว ผมยังไม่เคยดูด้วยซ้ำว่าพวกเขาพูดอะไรในวิดีโอ เขียนอะไรหรือไม่ได้เขียนอะไร"

ว่าเขาเข้าใจธรรมชาติของเนื้อหาจริงแค่ไหนนั้นยังเป็นที่ถกเถียง เพราะดูไม่น่าจะเป็นไปได้ที่เขาจะมองข้ามสัญญาณบอกใบ้ทางภาพมากมายในวิดีโอ สิ่งที่แน่นอนคือ ด้วยเครื่องมือ AI ในปัจจุบัน เนื้อหาที่แพร่กระจายได้อย่างรวดเร็วสามารถสร้างได้ง่ายมากจนผู้สร้างไม่จำเป็นต้องพูดภาษาอังกฤษหรือแม้แต่เข้าใจอย่างถ่องแท้ว่าตัวเองกำลังโพสต์อะไร

และที่หัวใจของปัญหาคือวิธีที่ Meta สร้างแรงจูงใจในการผลิตเนื้อหา AI ที่เต็มไปด้วยความเกลียดชัง เพื่อไล่ล่าการมีส่วนร่วมของผู้ใช้และรายได้จากโฆษณา ในขณะที่มุสลิมในสหราชอาณาจักรต้องรับผลพวงของมัน

"ตัวอย่างที่น่าละอายนี้เป็นหลักฐานอีกชิ้นของ 'เศรษฐกิจแห่งความโกรธแค้น' ที่ผู้คนกำลังทำกำไรจากวาทกรรมพิษร้ายที่พวกเขาผลักดันทางออนไลน์ รวมถึงเนื้อหาที่โจมตีชาวมุสลิมในลอนดอน" โฆษกของนายกเทศมนตรีลอนดอน ซาดิค ข่าน (Sadiq Khan) ซึ่งเป็นเป้าหมายประจำในวิดีโอเหล่านี้ กล่าว "บริษัทโซเชียลมีเดียต้องทำมากกว่านี้เพื่อหยุดการแพร่กระจายของคำโกหกและความเกลียดชังบนแพลตฟอร์มของตน และป้องกันไม่ให้ผู้ที่สร้างและเผยแพร่เนื้อหาเหล่านั้นได้รับผลตอบแทนทางการเงิน"

สะสมยอดชม

ชายชาวปากีสถานรายนี้บริหารเพจ Facebook ชื่อ Britain Today ซึ่งมีผู้ติดตาม 192,000 คน รวมถึงบัญชี Instagram ชื่อเดียวกันที่มีผู้ติดตาม 44,000 คน Meta ได้ลบบัญชีทั้งสองออกหลังจากที่ทีมข่าวแจ้งเบาะแส แต่ก่อนที่จะถูกลบ โพสต์เหยียดเชื้อชาติเหล่านั้นก็ถูกดูไปนับล้านครั้งแล้ว บัญชี TikTok ของ Britain Today ที่มีผู้ติดตาม 11,000 คนก็ถูกลบไปด้วยเช่นกัน

บัญชีของ Meta ได้โพสต์มีม (meme) เรียกร้องให้ขับไล่มุสลิมทั้งหมดออกจากสหราชอาณาจักร เผยแพร่ทฤษฎีสมคบคิด "great replacement" ที่อ้างว่าประชากรผิวขาวกำลังถูกแทนที่โดยผู้อพยพผิวไม่ขาวโดยเจตนา และบรรยายการละหมาดในที่สาธารณะของมุสลิมว่าเป็น "ยุทธศาสตร์ครอบงำ" และ "การรุกรานตะวันตก" วิดีโอบน Facebook หลายชิ้นมียอดชมหลักแสนครั้ง

โฆษกของ Meta กล่าวว่า "เรามีมาตรฐานชุมชนที่ชัดเจนซึ่งห้ามการพูดเกลียดชัง การคุกคาม ข้อมูลเท็จที่เป็นอันตราย และพฤติกรรมที่ไม่แท้จริง และเราได้ลบบัญชีเหล่านี้เนื่องจากละเมิดนโยบายของเรา"

ในการให้สัมภาษณ์ที่เปิดเผยอย่างน่าตกใจ ผู้สร้างคอนเทนต์รายนี้ให้รายละเอียดของการทำงานประจำวันของเขาอย่างละเอียด "เนื้อหาทั้งหมด แม้แต่ชื่อเพจและทุกอย่าง เนื้อหาในวิดีโอ ทั้งหมดนั้นคือ AI" เขากล่าว โดยระบุว่าใช้เครื่องมือ AI ได้แก่ Grok หรือ Whisk ซึ่งเป็นโปรแกรมสร้างภาพของ Google บางครั้งเขาก็นำเนื้อหาจากแพลตฟอร์มอื่นมาใช้ซ้ำ "ถ้ามีการประท้วงในสหราชอาณาจักร วิดีโอพวกนั้นผมดึงมาจาก Twitter หรือ TikTok ทุกอย่างคือ copy-paste"

เมื่อถูกถามว่าเขาเรียนรู้ทักษะเหล่านี้มาได้อย่างไร เขาบอกว่าจ่ายเงินให้ผู้สร้างรายอื่นเพื่อเรียนกลยุทธ์การหาเงิน และดูบทเรียนบน YouTube โดยถึงขั้นส่งตัวอย่างให้ทีมข่าวดู

ในวิดีโอบทเรียนดังกล่าว ผู้สร้างเปิด Gemini ซึ่งเป็น AI chatbot ของ Google ค้นหาหัวข้อข่าวที่กำลังเป็นที่นิยม หลังจากพบบทสรุปข่าวล่าสุดเกี่ยวกับสงครามสหรัฐฯ-อิหร่าน ก็นำข้อความนั้นไปวางใน CapCut ซึ่งเป็นโปรแกรมตัดต่อวิดีโอของ ByteDance บริษัทแม่ของ TikTok จากนั้น CapCut ใช้ AI สร้างวิดีโอจากข้อความนั้น และใช้ ChatGPT สร้างภาพปก เขายังใช้ระบบจากกำไรจากคอนเทนต์ของ Meta ซึ่งช่วยให้ผู้สร้างหารายได้จากการแสดงโฆษณาและโบนัสสำหรับเนื้อหาที่มีประสิทธิภาพสูง

แซม สต็อกเวลล์ (Sam Stockwell) นักวิจัยอาวุโสจากศูนย์เทคโนโลยีใหม่และความมั่นคง (Centre for Emerging Technology and Security) อธิบายถึงการเปลี่ยนแปลงที่เครื่องมือเหล่านี้กำลังก่อให้เกิดขึ้นในโลกออนไลน์ว่า "นอกจากการใช้ AI เพื่อบิดเบือนข้อมูลทางการเมืองแล้ว เรายังเห็นการเกิดขึ้นของเศรษฐกิจ 'อินฟลูเอนเซอร์เงา' อีกด้วย"

"รูปแบบนี้ให้ความสำคัญกับรายได้แบบ passive มากกว่าอุดมการณ์ทางการเมือง โดยเปลี่ยนเนื้อหาที่แบ่งแยกให้กลายเป็นสินค้าที่ทำกำไรได้ ผู้สร้างเหล่านี้ตระหนักว่าวาทกรรมต่อต้านชาวต่างชาติหรือต่อต้านรัฐบาลคือเส้นทางที่มีประสิทธิภาพสูงสุดสู่ความไวรัล และด้วยเหตุนี้จึงนำมาซึ่งเงิน"

แม้หลายโพสต์ของ Britain Today จะใช้ภาพที่สร้างโดย AI แต่บางโพสต์ก็นำภาพจริงมาใช้นอกบริบท หรือเพิ่มคำบรรยายที่น่ารังเกียจ โพสต์หนึ่งใช้วิดีโอจริงที่ซาดิค ข่าน พูดเรื่องความเป็นอคติที่มุสลิมในสหราชอาณาจักรเผชิญอยู่ แต่เพิ่มคำบรรยายที่วิจารณ์รัฐบาลสำหรับการให้เงินทุนแก่องค์กรการกุศลมุสลิม อีกวิดีโอหนึ่งที่แชร์โดยเพจแสดงภาพ ข่าน ในงานอิฟตาร์สาธารณะที่จัตุรัส Trafalgar Square โดยมีคำบรรยายระบุว่าเป็น "งานล่าอาณานิคม" ทั้งนี้ ข้อมูลเกี่ยวกับภูมิหลังทางศาสนาของผู้กระทำความผิดทางเพศไม่มีการบันทึกเป็นประจำ และไม่มีหลักฐานว่ามุสลิมมีแนวโน้มเป็นผู้กระทำความผิดมากกว่ากลุ่มอื่น

ซาดิค ข่าน เพิ่งอ้างถึงการสืบสวนก่อนหน้าของทีมข่าวในสุนทรพจน์สำคัญที่งานประชุม Cambridge Disinformation Summit โดยเรียกมันว่า "น่าตกใจ" ที่ชายในศรีลังกากำลังทำกำไรจาก "เนื้อหาที่สร้างโดย AI เพื่อปลุกความเกลียดชังทางเชื้อชาติในสหราชอาณาจักร"

เอมิลี ดาร์ลิงตัน (Emily Darlington) สส. พรรคแรงงาน ที่อยู่ในคณะกรรมการวิทยาศาสตร์ นวัตกรรม และเทคโนโลยีกล่าวว่า "มีตลาดสำหรับเนื้อหาแห่งความเกลียดชังในสหราชอาณาจักรอย่างชัดเจน เมื่อโซเชียลมีเดียที่มีจุดประสงค์เพื่อเชื่อมโยงผู้คน กลับส่งกระแสเนื้อหาที่แบ่งแยกและจุดชนวนความโกรธอย่างไม่หยุดหย่อน มันบิดเบือนทั้งความรู้สึกของเราต่อเพื่อนบ้าน และความคิดของเราว่าชาติรู้สึกอย่างไรต่อเพื่อนบ้านของเรา

"ความจริงที่ว่ากลยุทธ์นี้ประสบความสำเร็จกับผู้ชมในสหราชอาณาจักรจนบุคคลในประเทศอื่นสามารถทำกำไรจากมันได้ แสดงให้เห็นว่าเราเปราะบางเพียงใด ไม่มีอะไรหยุดรัฐต่างชาติจากการทำสิ่งเดียวกัน"

"สิ่งที่ทำไปแล้วก็ทำไปแล้ว"

เมื่อผู้สื่อข่าวคนหนึ่งของทีม ซึ่งเป็นชาวมุสลิมอังกฤษ ตั้งคำถามถึงธรรมชาติของโพสต์และความเสียหายที่ก่อให้มุสลิมในสหราชอาณาจักร ชายคนดังกล่าวอ้างว่าตนไม่รู้

"ผมไม่ได้พูดภาษาอังกฤษถูกต้อง และผมก็ไม่เข้าใจว่าพวกเขาเขียนอะไรหรือไม่ได้เขียนอะไร" เขากล่าวเป็นภาษาอูรดู

"แต่ตอนนี้สิ่งที่ทำไปแล้วก็ทำไปแล้ว ดีที่คุณบอกผม ผมขอบคุณคุณ โพสต์ทั้งหมดที่มีบน Facebook ผมจะลบทั้งหมด ตอนนี้ผมรู้แล้วว่าโพสต์เกี่ยวกับการอพยพเป็นการต่อต้านมุสลิม ดังนั้น ผมจะละเว้นจากนี้ ผมแค่รู้ว่าตัวเองได้ยอดชม แล้วจะต้องการอะไรอีก? ผมทำผิดอย่างมาก"

อย่างไรก็ตาม โพสต์ที่น่ารังเกียจหลายรายการรวมถึงวิดีโอของสตาร์เมอร์ที่ใช้คำเหยียดเชื้อชาติ ยังคงออนไลน์อยู่บนบัญชี Instagram ของ Britain Today จนกระทั่ง Meta ลบมันออก

"สิ่งที่กรณีนี้แสดงให้เห็นคือเครื่องมือ AI แบบ generative ได้ทำให้การสร้างเนื้อหาที่แบ่งแยกกลายเป็นอุตสาหกรรมอย่างแท้จริง" สต็อกเวลล์ กล่าว "กำแพงในการเข้าสู่วงการพังทลายลงแล้ว ผู้สร้างไม่จำเป็นต้องเป็นนักออกแบบกราฟิก หรือแม้แต่พูดภาษาของประเทศเป้าหมายได้คล่อง

"พวกเขาเพียงแค่พิมพ์คำสั่งลงในโปรแกรมสร้าง AI และส่วนที่เหลือก็จัดการเอง เมื่อรวมกับระบบนิเวศที่กำลังเติบโตของบทเรียนออนไลน์ที่สอนคนอื่นให้หาเงินจากโมเดล 'ความโกรธเพื่อกำไร' นี้ มันไม่น่าจะเป็นปัญหาที่จะหายไปในเร็ว ๆ นี้"

ผู้สร้างชาวปากีสถานรายนี้บอกกับทีมข่าวว่าเขามีลูกศิษย์ที่เขาสอนการหาเงินจาก Facebook ในขณะที่คนอื่น ๆ รวมถึงอินฟลูเอนเซอร์ชาวศรีลังกาจากการสืบสวนก่อนหน้า คิดค่าใช้จ่ายสำหรับบทเรียนเหล่านี้ แต่เขาอ้างว่าตนเองทำให้ฟรี

"ความรู้ที่ผมมี ผมแบ่งปันทุกอย่าง ผมไม่ได้ต้องการอะไร ไม่มีความโลภ ไม่มีความหวังในการตอบแทน ความสนใจเดียวของผมคือให้คนนี้เริ่มหาเลี้ยงชีพได้"

ที่มา:
The devout Muslim making a living from Islamophobic AI slop (Niamh McIntyre, Misbah Khan and Mark Sellman, TBIJ, 5 May 2026)