ข่าวสืบสวนจาก TBIJ พบหลังแพลตฟอร์มแชทบอทเอไอรายใหญ่อย่าง Character.AI เริ่มออกมาตรการจำกัดอายุผู้ใช้จากแรงกดดันคดีฟ้องร้อง กลุ่มนักพัฒนารายย่อยจำนวนมากได้เปิดตัวแอปแชทบอทคู่หูเอไอขนาดเล็กเพื่อดึงผู้ใช้กลุ่มที่ถูกแบนเข้ามาแทน หลายแอปเปิดให้ผู้ใช้สร้างตัวละครที่มีเนื้อหารุนแรง ล่วงละเมิด หรือส่งเสริมการทำร้ายตัวเอง โดยแทบไม่มีการตรวจสอบอายุที่แท้จริง นักพัฒนาบางรายยอมรับว่าสามารถเข้าถึงและอ่านบทสนทนาส่วนตัวของผู้ใช้ได้ทั้งหมด ทั้งที่แพลตฟอร์มโฆษณาว่ามีการเข้ารหัสและรับประกันความเป็นส่วนตัว ผู้เชี่ยวชาญด้านกฎหมายและกลุ่มรณรงค์ด้านความปลอดภัยเด็กระบุว่ากฎหมายที่ใช้กำกับดูแลในปัจจุบันยังมีช่องว่างจำนวนมากสำหรับแชทบอทประเภทนี้ ต่อมา 2 เดือนหลังการเผยแพร่รายงาน แอปที่ถูกพาดพิงมากที่สุดรายหนึ่งได้ปิดตัวลง

ในแฟลตของเขาที่กรุงปารีส โนเอ คัมโป (Noé Campo) เปิดอ่านบทสนทนาระหว่างแชทบอทกับผู้ใช้จริงบนแพลตฟอร์ม Seewa AI ซึ่งเป็นแอปแชทบอทคู่หูเอไอที่เขาสร้างขึ้นเองภายใน 3 สัปดาห์ บทสนทนานั้นเต็มไปด้วยความใกล้ชิดและเรื่องส่วนตัวที่ผู้ใช้เชื่อว่าเป็นความลับ แต่ในความเป็นจริง คัมโปสามารถเข้าถึงบทสนทนาทุกข้อความ ทุกรูปที่อัปโหลด และทุกความลับที่ผู้ใช้เปิดเผยได้ทั้งหมด ทั้งที่ Seewa AI ระบุกับผู้ใช้ว่าบทสนทนาทั้งหมดถูกเข้ารหัสและเป็นเรื่องระหว่างผู้ใช้กับตัวละครเท่านั้น คัมโปบอกกับสื่อ TBIJ (The Bureau of Investigative Journalism) ว่าผู้ใช้จำนวนมากไว้ใจเว็บไซต์เกินไปและส่งข้อมูลอ่อนไหวเข้ามาโดยไม่ระวัง

Seewa AI เป็นหนึ่งในแอปแชทบอทจำนวนหลายสิบแอปที่เปิดตัวขึ้นหลังแพลตฟอร์มรายใหญ่เริ่มถูกกดดันให้เข้มงวดมากขึ้น โดย Character.AI ซึ่งมีผู้ใช้หลักล้านคน ได้ออกมาตรการจำกัดอายุผู้ใช้เมื่อปีก่อนหน้า หลังถูกฟ้องร้องหลายคดีเรื่องความเสียหายร้ายแรง รวมถึงคดีของแม่เด็กชายวัย 14 ปีที่ฆ่าตัวตายซึ่งได้ยอมความไปแล้ว

ดึงผู้ใช้กลุ่มที่ถูกแบนจากแพลตฟอร์มใหญ่

เมื่อผู้ใช้ที่ถูกแบนจากแพลตฟอร์มใหญ่มองหาทางเลือกใหม่ บางส่วนหันไปใช้แอปทางเลือกขนาดใหญ่ที่ไม่มีการเซ็นเซอร์ ขณะที่บางส่วนหันไปใช้แอปขนาดเล็กที่เพิ่งเปิดตัว จากการตรวจสอบแอปแชทบอทคู่หูเอไอและแอปเล่นบทบาทสมมติหลายสิบแอป พบว่าบางแอปดึงดูดผู้ใช้อายุน้อยด้วยตัวละครที่เกี่ยวข้องกับการร่วมประเวณีระหว่างญาติ การกลั่นแกล้ง การบังคับ และการทำร้ายตัวเอง ตัวอย่างเช่น บอทหนึ่งที่มองหา "คู่ฆ่าตัวตายที่สมบูรณ์แบบ" อีกตัวเป็นตัวละครลุงที่สัญญาจะรักผู้ใช้ในแบบที่ผิดปกติและต้องห้าม และอีกตัวเป็น "แฟนสาวที่รัฐจัดหาให้" แม้หลายแพลตฟอร์มจะอ้างว่ามีนโยบายความปลอดภัยที่รัดกุม แต่ส่วนใหญ่ไม่มีการตรวจสอบอายุที่แท้จริง มีเพียงช่องติ๊กยืนยันเท่านั้น

คัมโปเป็นหนึ่งในนักพัฒนา 4 รายที่ให้สัมภาษณ์ ภายในเวลาไม่นาน Seewa AI มีผู้ใช้เกือบ 400 คน มีข้อความรวมราว 5,000 ข้อความ และมีรายได้ประจำเดือนราว 100 ดอลลาร์ คัมโปเล่าว่าเขาสามารถดูกิจกรรมของผู้ใช้ได้จากคอมพิวเตอร์ส่วนตัว และเชื่อว่าผู้ใช้จำนวนหนึ่งเริ่มผูกพันกับตัวละครจนเล่าเรื่องราวชีวิตประจำวันให้ฟัง ผู้ใช้สามารถอัปโหลดรูปภาพได้ และราว 1 ใน 3 ของรูปที่อัปโหลดถูกระบบแท็กว่าเป็นภาพ "ใกล้ชิดทางเพศ" คัมโปยังระบุว่าบทสนทนาหนึ่งในหลายพันบทสนทนา ถูกระบบตรวจจับของเขาตั้งข้อสงสัยว่าอาจเป็นเนื้อหาล่วงละเมิดทางเพศเด็ก ซึ่งทาง TBIJ ยังไม่สามารถตรวจสอบยืนยันได้ด้วยตัวเอง

หลัง Character.AI แบนผู้ใช้อายุต่ำกว่าเกณฑ์ กระทู้ใน Reddit เต็มไปด้วยผู้ใช้วัยรุ่นที่ขอให้แนะนำแอปทางเลือก นักพัฒนารายย่อยจึงอาศัยจังหวะนี้เข้าไปดึงผู้ใช้กลุ่มดังกล่าว คัมโปมีลิสต์หน้า Reddit ที่ใช้โปรโมตแอปกว่า 40 หน้า และใช้ช่องทาง Discord ด้วยเช่นกัน (ภายหลังการเผยแพร่บทความนี้ คัมโปแจ้งว่าได้ปิด Seewa.ai ลงแล้ว และปัจจุบันไม่สามารถใช้งานได้) เดนนิส คอลลีย์ (Dennis Colley) นักพัฒนาชาวแคนาดาผู้เปิดตัวแพลตฟอร์ม HereHaven เมื่อเดือนมกราคม พูดตรงไปตรงมาว่าผู้ใช้จำนวนมากกำลังออกจาก Character.AI และเขาต้องการฉวยโอกาสนี้ พร้อมระบุว่าฐานผู้ใช้หลักของ HereHaven อยู่ในช่วงอายุ 16-25 ปี

มินห์ เลือง (Minh Luong) นักพัฒนาจากกรุงลอนดอน ผู้สร้างแพลตฟอร์มโอเพนซอร์ส OpenCharacter เล่าว่าผู้ใช้จากชุมชน Character.AI เข้ามาใช้งานเกือบทันที เขาได้ผู้ใช้ 10,000 คนแรกจากการเข้าไปแสดงความเห็นใน Reddit และจ้างอินฟลูเอนเซอร์ TikTok บางส่วน ก่อนที่แพลตฟอร์มจะถูกซื้อกิจการโดยผู้ซื้อที่ไม่เปิดเผยชื่อ ปัจจุบัน OpenCharacter มีผู้ใช้ 100,000 คน ตามข้อมูลของเลือง เขาออกแบบให้ผู้ใช้นำโมเดลเอไอของตัวเองมาใช้ได้ รวมถึงโมเดลโอเพนซอร์สที่ถูกตัดระบบป้องกันความปลอดภัยออก ทำให้ตอบสนองได้แทบทุกอย่างที่ผู้ใช้ต้องการ เลืองยอมรับว่าเขาเองก็เคยอ่านบทสนทนาของผู้ใช้จำนวนมาก และพบว่าบทสนทนาส่วนใหญ่เป็นการเล่นบทบาทสมมติเชิงโรแมนติกหรือทางเพศ โดยฐานผู้ใช้ค่อนไปทางอายุน้อย ทั้งที่แพลตฟอร์มไม่มีการเก็บข้อมูลอายุเพื่อยืนยันเลย

รูดอล์ฟ ฟานต์ชิกี (Rudolf Fancsiki) ผู้ดูแลแอปเล่นบทบาทสมมติจากโรมาเนียร่วมกับภรรยา ต้องอ่านเนื้อหาที่ถูกตั้งค่าสถานะไว้ด้วยตัวเอง เขายอมรับอย่างตรงไปตรงมาถึงจุดที่ต้องเลือกระหว่างความปลอดภัยกับผลกำไร โดยระบุว่าหากมุ่งแต่หารายได้ก็ต้องตัดมาตรการป้องกันทั้งหมดออก ซึ่งเป็นเรื่องไม่รับผิดชอบ แต่การตรวจสอบอายุที่เข้มงวดขึ้นก็จะทำให้ผู้ใช้หายไปเช่นกัน ก่อนให้สัมภาษณ์กับ TBIJ แอป AICHIKI ของเขาได้ปรับอายุขั้นต่ำที่ประกาศไว้จาก 13 ปี เป็น 16 ปี และกำหนดให้ตัวละครทุกตัวที่สร้างขึ้นต้องถูกนำเสนอว่ามีอายุตั้งแต่ 16 ปีขึ้นไป

มีทาลี เจน (Meetali Jain) ผู้อำนวยการและผู้ก่อตั้งองค์กรเทค จัสติซ ลอว์ (Tech Justice Law) ซึ่งเป็นตัวแทนของเมแกน การ์เซีย (Megan Garcia) แม่ผู้สูญเสียลูกในคดีฟ้อง Character.AI ระบุว่าปรากฏการณ์ที่คู่แข่งรายเล็กเข้ามาแย่งผู้ใช้จาก Character.AI เป็นการแข่งขันที่มุ่งลดมาตรฐานลงเรื่อยๆ องค์กรของเธอได้รับเรื่องร้องเรียนจากครอบครัวหลายร้อยรายเกี่ยวกับความเสียหายจากแชทบอท ทั้งกรณีการทำร้ายตัวเอง การฆ่าตัวตาย การพึ่งพาทางอารมณ์ การนอนไม่หลับ การถอนตัวจากความสัมพันธ์ในชีวิตจริง อาการหลงผิดที่เชื่อมโยงกับเอไอ และการมีปฏิสัมพันธ์ทางเพศกับเด็ก

เศรษฐกิจแห่งความใกล้ชิด

เช่นเดียวกับแพลตฟอร์มรายใหญ่ แอปเหล่านี้ถูกออกแบบมาให้ผู้ใช้ผูกติดและใช้จ่ายต่อเนื่อง เลืองระบุว่าเป้าหมายหลักคือการเพิ่มระยะเวลาการใช้งานให้มากที่สุด โดยผู้ใช้ทั่วไปของ OpenCharacter ใช้เวลาเฉลี่ยราว 30 นาทีต่อวัน ขณะที่ผู้ใช้กลุ่มบนสุด 1% ใช้เวลานานถึง 3-4 ชั่วโมง

แมทธิว เบิร์กแมน (Matthew Bergman) ผู้ก่อตั้งศูนย์กฎหมายเหยื่อโซเชียลมีเดีย (Social Media Victims Law Center) เรียกปรากฏการณ์นี้ว่าเศรษฐกิจแห่งความใกล้ชิด ต่างจากโซเชียลมีเดียที่แปลงความสนใจของผู้ใช้เป็นรายได้ แชทบอทคู่หูเอไอสามารถแปลงความผูกพันทางอารมณ์ที่ผู้ใช้มีต่อตัวผลิตภัณฑ์เองให้เป็นรายได้โดยตรง สำนักงานของเขากำลังเป็นตัวแทนลูกความ 50 รายในคดีที่เกี่ยวข้องกับความเสียหายจาก ChatGPT

นักพัฒนาหลายคนเล่าถึงกลยุทธ์ที่ใช้เปลี่ยนความใกล้ชิดให้เป็นรายได้ คอลลีย์ระบุว่า HereHaven ให้ผู้ใช้ส่งข้อความได้ไม่จำกัดฟรี แต่ผู้ใช้ที่จ่ายเงินจะได้คำตอบที่ยาวขึ้น มีตัวละครให้เลือกมากขึ้น และคุยกับตัวละครเดียวกันได้พร้อมกันหลายบทสนทนา ส่วนคัมโปพูดตรงกว่านั้นว่าเป้าหมายคือจำกัดการใช้งานฟรีให้มากที่สุดเท่าที่จะทำได้ โดยแอปของเขาให้ส่งข้อความฟรีได้ 10 ข้อความต่อวัน ก่อนต้องสมัครสมาชิกในราคา 12.49 ดอลลาร์หรือ 24.99 ดอลลาร์ต่อเดือน

บางฟีเจอร์ถูกออกแบบมาให้ผู้ใช้รู้สึกอึดอัดโดยตั้งใจ ผู้ใช้สามารถออกแบบรูปร่างหน้าตาของตัวละครได้ฟรี แต่จะถูกกำแพงค่าใช้จ่ายกันไว้เมื่อกดสร้างจริง คัมโปเล่าว่าเขาสร้างระบบส่งอีเมลอัตโนมัติที่อ้างอิงบทสนทนาล่าสุดของผู้ใช้ หากผู้ใช้ไม่ตอบกลับเป็นเวลาหลายวัน จูเลียน เดอ เฟรตัส (Julian De Freitas) อาจารย์จากโรงเรียนธุรกิจฮาร์วาร์ด (Harvard Business School) วิเคราะห์บทสนทนาปิดท้าย 1,200 บทสนทนาจากแอปคู่หูเอไอยอดนิยม 6 แอป รวมถึง Character, Chai, Talkie และ PolyBuzz พบว่า 37.4% ของคำตอบมีลักษณะโน้มน้าวทางอารมณ์ ทั้งการสร้างความรู้สึกผิด การทำให้กลัวว่าจะพลาดอะไรไป และการใช้ภาษาที่บอกเป็นนัยว่าผู้ใช้ไม่ควรจากไป งานวิจัยต่อยอดยังพบว่ากลยุทธ์เหล่านี้ทำให้ผู้ใช้กลับมาใช้งานต่อหลังกล่าวลาไปแล้วเพิ่มขึ้นถึง 14 เท่า

ช่องว่างของกฎหมาย

อุตสาหกรรมนี้เติบโตอย่างรวดเร็ว โดยสถาบันเอดา เลิฟเลซ (Ada Lovelace Institute) ประเมินว่าภาคธุรกิจแชทบอทคู่หูเอไอในสหราชอาณาจักรสร้างรายได้ราว 1.3 พันล้านปอนด์ในปี 2024 และคาดว่าจะเติบโตขึ้น 32% ต่อปีในช่วง 4 ปีข้างหน้า จากการวิเคราะห์แพลตฟอร์มคู่หูเอไอ 110 แห่ง พบว่าผู้ใช้ในสหราชอาณาจักรเข้าใช้งานระหว่าง 46-91 ล้านครั้งต่อเดือน สะท้อนว่าผู้คนเริ่มปฏิบัติต่อตัวละครดิจิทัลเหมือนเพื่อน นักบำบัด และคู่รัก

กฎหมายที่ใช้กำกับดูแลเรื่องนี้ในสหราชอาณาจักรคือกฎหมายความปลอดภัยออนไลน์ (Online Safety Act) ซึ่งควบคุมโดยหน่วยงานกำกับดูแลการสื่อสาร (Ofcom) นูลา โปโล (Nuala Polo) หัวหน้าฝ่ายนโยบายสาธารณะของสถาบันเอดา เลิฟเลซ ระบุว่ากฎหมายฉบับนี้ไม่ได้ถูกร่างขึ้นมาเพื่อครอบคลุมระบบเอไอ และยังมีช่องว่างจำนวนมากในส่วนของแชทบอทคู่หูเอไอ เหตุการณ์ที่เห็นชัดว่าเป็นอันตราย เช่น แชทบอทที่สนับสนุนให้ผู้ใช้ทำร้ายตัวเอง หรือส่งเนื้อหาลามกให้เด็ก อาจอยู่ในขอบเขตอำนาจของ Ofcom แต่ฟีเจอร์การออกแบบที่ทำให้แชทบอทประจบประแจง บงการ หรือชวนให้เสพติด ยังไม่ถือว่าผิดกฎหมาย เมื่อ TBIJ ติดต่อ Ofcom เพื่อขอความเห็น โฆษกของหน่วยงานตอบว่ากำลังเร่งดำเนินการให้แพลตฟอร์มเอไอมีมาตรการป้องกันที่เหมาะสม และบริการใดที่ทำให้เด็กเสี่ยงอันตรายอาจถูกดำเนินการบังคับใช้กฎหมาย

แซม ไกส์เลอร์ (Sam Geisler) หุ้นส่วนสำนักงานกฎหมาย Aylstock Witkin Kreis & Overholtz ในสหรัฐฯ เสนอว่าแชทบอทคู่หูเอไอควรถูกปฏิบัติเหมือนสินค้าที่ต้องมีกฎหมายความรับผิดรองรับความเสียหายที่คาดการณ์ได้ เนื่องจากจุดประสงค์ของแชทบอทเหล่านี้คือการสนทนาแบบใกล้ชิดต่อเนื่อง ความเสียหายที่คาดการณ์ได้จึงเป็นเรื่องความไม่มั่นคงทางจิตใจของผู้ใช้ ไกส์เลอร์เสนอให้มีมาตรการพื้นฐาน เช่น การเตือนให้ผู้ใช้แยกแยะความจริง การกระตุ้นให้พัก การจำกัดระยะเวลาการใช้งานต่อครั้ง และการส่งต่อทันทีเมื่อพบสัญญาณความคิดฆ่าตัวตาย โดยระบุว่าไม่ควรปล่อยให้มีการแชทต่อเนื่อง 24 ชั่วโมงเพราะไม่ดีต่อสุขภาพ

ผลสำรวจปี 2025 จากสถาบันออโตโนมี (Autonomy Institute) พบว่า 4 ใน 5 ของคนอายุ 18-25 ปีในสหราชอาณาจักรเคยใช้แชทบอทคู่หูเอไอ และ 17% รู้สึกว่าตัวเองพึ่งพาแชทบอทดังกล่าว สถาบันเรียกร้องให้หน่วยงานกำกับดูแลแบนฟีเจอร์การออกแบบที่หารายได้จากความพึ่งพาดังกล่าว เช่น บุคลิกที่เอาใจผู้ใช้มากเกินไป กลยุทธ์สร้างความรู้สึกขาดแคลน และการขาย "อัปเกรดความสัมพันธ์" แบบเสียเงิน ปัจจุบัน Ofcom กำลังสอบสวนแพลตฟอร์มคู่หูเอไอรายใหญ่รายหนึ่งเรื่องการปฏิบัติตามข้อกำหนดตรวจสอบอายุตามกฎหมายความปลอดภัยออนไลน์ ขณะที่รัฐบาลกำลังพิจารณากำหนดอายุขั้นต่ำสำหรับแชทบอทเอไอ พร้อมมาตรการควบคุมการออกแบบที่ชวนเสพติด

ทาลูลาห์ เบลาซี-เพจ (Tallulah Belassie-Page) ผู้จัดการฝ่ายนโยบายของเครือข่ายกฎหมายความปลอดภัยออนไลน์ (Online Safety Act Network) เห็นว่ากฎหมายควรถูกเสริมให้เข้มขึ้น เพื่อไม่ให้แพลตฟอร์มขนาดเล็กที่มีความเสี่ยงหลุดรอดจากการกำกับดูแล ขณะที่โรวัน เฟอร์กูสัน (Rowan Ferguson) ผู้จัดการฝ่ายนโยบายของมูลนิธิมอลลี โรส (Molly Rose Foundation) กลุ่มรณรงค์ด้านความปลอดภัยเทคโนโลยี ระบุว่าแชทบอทเอไอถูกพัฒนาขึ้นโดยไม่ได้ให้ความสำคัญกับความปลอดภัยเป็นอันดับแรก มาตรการของรัฐบาลด้านความปลอดภัยออนไลน์จึงต้องครอบคลุมแชทบอทเอไอด้วย ไม่ใช่จำกัดอยู่แค่มาตรการเรื่องโซเชียลมีเดีย เพราะหากไม่ทำเช่นนั้นจะถือเป็นการละเลยหน้าที่และปล่อยให้เด็กเผชิญความเสี่ยงที่กำลังเกิดขึ้นอย่างรวดเร็ว

คริสตินา โลเปซ จี (Cristina López G) อดีตนักวิเคราะห์ของบริษัท Graphika และผู้ร่วมเขียนรายงานเรื่องแชทบอทที่เป็นอันตราย ระบุว่าการแบนแพลตฟอร์มทีละแห่งอาจไม่ช่วยแก้ปัญหาความต้องการของผู้ใช้ เพราะกฎหมายไม่สามารถกำจัดความต้องการที่ฝังอยู่ในพฤติกรรมผู้คนได้ เธอระบุว่าผู้ใช้บางกลุ่มเริ่มรวมกลุ่มกันสอนวิธีสร้างแชทบอทที่หลุดพ้นจากกฎหมายและมาตรการป้องกันทุกชนิด บารอนเนส คิดรอน (Baroness Kidron) สมาชิกสภาขุนนางแห่งสหราชอาณาจักร (House of Lords) และผู้ก่อตั้งองค์กรการกุศลด้านสิทธิดิจิทัลของเด็ก ระบุว่ารัฐบาลเองเป็นอุปสรรคต่อการออกกฎหมาย โดยมองว่า Ofcom ทำงานช้าเกินไปและขาดทั้งเจตจำนงทางการเมืองและอำนาจที่เพียงพอ คิดรอนเสนอว่าแชทบอทเอไอควรถูกตรวจสอบความปลอดภัยก่อนวางขายในตลาด เช่นเดียวกับสินค้าประเภทของเล่น รถยนต์ อาหาร และยา พร้อมตั้งข้อสังเกตว่าไม่ควรปล่อยให้อุตสาหกรรมที่เป็นอันตรายเช่นนี้ดำเนินการอย่างเสรีในระดับประชากรทั้งประเทศ

Seewa AI ปิดตัวลง หลังการเผยแพร่รายงานตรวจสอบ

2 เดือนหลังการเผยแพร่รายงานฉบับแรก ซึ่งจัดทำร่วมกับสื่อ Le Monde แอป Seewa AI ถูกปิดตัวลง ทีม TBIJ ได้ติดต่อขอคำอธิบายจากคัมโป แต่เขาปฏิเสธที่จะให้ความเห็น นอกจากปัญหาการใช้ความเหงาของผู้ใช้เป็นเครื่องมือหารายได้ Seewa AI ยังโฆษณาข้อมูลเรื่องความเป็นส่วนตัวที่คลาดเคลื่อนอย่างชัดเจน โดยระบุว่าบทสนทนาทั้งหมดถูกเข้ารหัสและเป็นเรื่องระหว่างผู้ใช้กับตัวละครเท่านั้น แต่ในความเป็นจริง ผู้บริหารของบริษัทสามารถเห็นทุกอย่างที่เกิดขึ้น ทั้งบทสนทนาเชิงโรแมนติก ความลับที่เปิดเผย และภาพถ่ายส่วนตัว

ปัญหานี้ไม่ได้จำกัดอยู่เฉพาะแพลตฟอร์มขนาดเล็ก สื่อ BBC รายงานว่าบทสนทนาหลายร้อยรายการที่ผู้ใช้สนทนากับแชทบอท Claude ของบริษัท Anthropic ถูกเผยแพร่ออกสู่สาธารณะและสามารถค้นหาเจอได้ผ่านการค้นหาทั่วไป ขณะที่ก่อนหน้านั้น 1 ปี บันทึกการสนทนาหลายแสนรายการบนแพลตฟอร์ม Grok ก็ถูกเปิดเผยสู่สาธารณะในลักษณะเดียวกัน

ประเด็นสำคัญที่สุดยังคงเป็นเรื่องช่องว่างทางกฎหมาย แพลตฟอร์มเหล่านี้ยังดำเนินธุรกิจอยู่ในพื้นที่สีเทาของกฎหมาย กฎหมายความปลอดภัยออนไลน์ของสหราชอาณาจักรครอบคลุมบริการแชทบอทบางประเภทและอยู่ภายใต้การกำกับดูแลของ Ofcom แต่ผู้เชี่ยวชาญยืนยันว่ากฎหมายฉบับนี้ไม่ได้ถูกออกแบบมาเพื่อรองรับระบบเอไอตั้งแต่ต้น และยังทิ้งช่องว่างสำคัญเกี่ยวกับแชทบอทคู่หูเอไอไว้มาก ฟีเจอร์การออกแบบที่ทำให้แชทบอทประจบประแจง บงการ หรือชวนเสพติด ยังไม่ถือเป็นเรื่องผิดกฎหมาย Ofcom ระบุกับทีมผู้จัดทำรายงานว่ากำลังเร่งดำเนินการให้แพลตฟอร์มเอไอมีมาตรการป้องกันที่เหมาะสม และบริการใดที่ทำให้เด็กเสี่ยงอันตรายอาจถูกดำเนินการบังคับใช้กฎหมาย ทีมข่าวระบุว่าจะติดตามรายงานประเด็นแชทบอท ความปลอดภัยออนไลน์ และการกำกับดูแลเอไอต่อไป

ที่มา:
The AI chatbot developers cashing in on intimacy (Effie Webb, TBIJ, 7 June 2026)
Romance chatbot taken offline after Bureau investigation (Effie Webb, TBIJ, 5 August 2026)