ผู้เชี่ยวชาญด้านความปลอดภัยทางไซเบอร์ของมหาวิทยาลัย Macquarie ได้คิดค้นแชทบอทหลายภาษาที่ออกแบบมาเพื่อป้องกันไม่ให้นักต้มตุ๋น Call center โทรมาหลอกลวง และลดความสูญเสียให้กับมิจฉาชีพทั่วโลก
Macquarie University cyber security experts have invented a multi-lingual chatbot designed to keep scammers on long fake calls and ultimately reduce the huge number of people who lose money to global criminals every day.
AI ใหม่ ปลอมตัวเป็นเหยื่อป่วนมิจฉาชีพ Call centers
AI เหยื่อปลอมที่น่าเชื่อถือ ในรูปแบบของแชทบอทหลายภาษา ที่พูดคุยกับมิจฉาชีพที่โทรมาหลอกลวง ที่สร้างความสูญเสีย 55 พันล้านเหรียญสหรัฐ ในแต่ละปี
แพลตฟอร์มใหม่ใช้การโคลนเสียงเพื่อให้มิจฉาชีพ Call center พูดคุยอยู่ในสายในการสนทนาปลอมกับแชทบอท AI
Apate ตั้งตามชื่อเทพีแห่งการหลอกลวงของกรีก ระบบจะ ‘หลอกลวงมิจฉาชีพ’ โดยใช้การจำลองเสียงที่น่าเชื่อถือเพื่อดำเนินการสนทนากับผู้หลอกลวงตัวจริง
“การหลอกลวงทางโทรศัพท์ดำเนินการโดยกลุ่มมิจฉาชีพที่จัดตั้งขึ้น และปัจจุบันมี Call center เพียงส่วนน้อยเท่านั้นที่ถูกจับได้ และไม่ได้เงินกลับคืนมา” Prof. Dali Kaafar ผู้อำนวยการบริหารของ Cyber Security Hub ของมหาวิทยาลัย Macquarie กล่าว
Prof. Kaafar ได้ไอเดีย ขณะรับประทานอาหารกลางวันกับครอบครัว เมื่อมีนักต้มตุ๋นโทรมา เขาแกล้งทำเป็นสนุกสนาน ทำให้ลูกๆ ของเขาหัวเราะ และทำให้ Call center อยู่ในสายเป็นเวลา 40 นาที
“ฉันตระหนักดีว่า ในขณะที่ฉันเสียเวลาไปกับพวก Call center เพื่อให้พวกเขาไม่สามารถติดต่อกับเหยื่อที่หลอกลวงง่ายได้ ซึ่งก็คือประเด็น นั่นคือ 40 นาที ในชีวิตของฉันเอง ฉันก็กลับไปไม่ได้” Prof. Dali กล่าว
“จากนั้นผมก็เริ่มคิดว่าเราจะทำให้กระบวนการทั้งหมดเป็นไปโดยอัตโนมัติได้อย่างไร และใช้การประมวลผลภาษาธรรมชาติเพื่อพัฒนาแชทบ็อตด้วยคอมพิวเตอร์ที่สามารถสนทนากับ Call center ได้อย่างน่าเชื่อถือ” เขากล่าว
Prof. Kaafar กล่าวว่าขณะนี้ทีมของเขามีสิทธิบัตรที่รอดำเนินการสำหรับเทคโนโลยีที่มีประสิทธิภาพสูงนี้
“เรารู้สึกตื่นเต้นกับศักยภาพของเทคโนโลยีใหม่นี้ที่จะทำลายรูปแบบธุรกิจที่หลอกลวงและทำให้มันไม่เกิดประโยชน์” เขากล่าว
การค้าการหลอกลวงทางโทรศัพท์ทั่วโลกที่ร่ำรวยมหาศาลเติบโตขึ้นทุกปี และ ACCC ประมาณการว่าชาวออสเตรเลียสูญเสียเงินกว่า 3.1 พันล้านให้กับนักต้มตุ๋นในปี 2565
Call center ลงทุนน้อย สร้างความเสียหายมาก
Prof. Kaafar กล่าวว่า แม้ว่าผู้ให้บริการโทรคมนาคมจะพยายามบล็อคการโทรหลอกจาก Call center จำนวนมากกว่าห้าร้อยล้านสายตั้งแต่ปี 2020 แต่ชาวออสเตรเลียยังคงถูกโจมตีด้วยการโทรเหล่านี้ และสามารถสร้างความเสียหายให้กับผู้ที่ตกเป็นเหยื่อได้
ผู้คิดค้นนวัตกรรมความปลอดภัยในโลกไซเบอร์ Michal Kepkowski, Ian Wood, Nardine Basta และ Prof. Dali Kaafar ได้พัฒนาบอทเทคโนโลยีเสียงใหม่ที่ออกแบบมาเพื่อหยุดยั้งมิจฉาชีพที่ขโมยเงินจากเหยื่อทั่วโลก
การหลอกลวงทางโทรศัพท์กำลังเพิ่มขึ้นทั่วโลกด้วยเหตุผลบางประการ เขากล่าว
เทคโนโลยีอย่าง Voice-over-Internet Protocol (VOIP) ทำให้อาชญากรไซเบอร์สามารถปกปิดตำแหน่งของตนได้ง่ายและราคาถูก โดยแสร้งทำเป็นโทรจากหมายเลขใดก็ได้
ในด้านเทคโนโลยี การปรับปรุงโครงสร้างพื้นฐานโทรคมนาคมและโปรโตคอลเป็นเรื่องยากและมีราคาแพงเพื่อปรับปรุงการรับรองความถูกต้องของการโทร
“ในด้านการเงิน มันเป็นอัตราส่วนกำไรสูงและต้นทุนต่ำสำหรับนักต้มตุ๋น การกระทำดังกล่าวให้ผลตอบแทนสูงและมีความเสี่ยงต่ำ และค่อนข้างยากที่เหยื่อจะได้เงินจำนวนนี้คืน”
เงื่อนไขเหล่านี้ดึงดูดนักต้มตุ๋นจำนวนมากขึ้นเรื่อยๆ ที่เชี่ยวชาญในการเล่นกับอารมณ์และความกลัวของมนุษย์
“รูปแบบธุรกิจของ Call center อาศัยการทำกำไรก้อนโตจากเหยื่อจำนวนน้อย มีเพียงเปอร์เซ็นต์เล็กน้อยของการโทรนับพันครั้งในแต่ละสัปดาห์เท่านั้นที่ประสบความสำเร็จ” ศาสตราจารย์คาฟาร์กล่าว
“โมเดลของเราเชื่อมโยงพวกเขา เสียเวลา และลดจำนวนการหลอกลวงที่ประสบความสำเร็จ” เขากล่าว “เราสามารถทำลายรูปแบบธุรกิจของพวกเขาและทำให้พวกเขาทำเงินได้ยากขึ้น”
APATE ถูกสร้างขึ้นอย่างไร
ทีมงานจาก Macquarie University Cyber Security Hub เริ่มต้นด้วยการวิเคราะห์การโทรศัพท์หลอกลวง และระบุแพทเทิร์นทางสังคมที่นักต้มตุ๋นใช้กับเหยื่อ โดยใช้ machine learning techniques และการประมวลผลภาษาธรรมชาติ (natural language processing) เพื่อระบุ ‘สคริปต์’ รูปแบบกลโกงทั่วไปที่มิจฉาชีพใช้
จากนั้น พวกเขาฝึกแชทบอทเกี่ยวกับชุดข้อมูลของการสนทนาหลอกลวงในโลกแห่งความเป็นจริง ตั้งแต่การบันทึกการโทรที่หลอกลวงไป จนถึงการถอดบทสนทนาไปเป็นแพทเทิร์นอีเมลหลอกลวง และบันทึกการสนทนาจากแพลตฟอร์มโซเชียลมีเดีย เพื่อให้บอทสามารถสร้างบทสนทนาของตัวเองที่คล้ายกับการสนทนาโต้ตอบกับมิจฉาชีพในโลกแห่งความเป็นจริง
Prof. Kaafar กล่าวว่าความก้าวหน้าในการประมวลผลภาษาธรรมชาติ (NLP) และการโคลนเสียงมนุษย์ของ AI ช่วยให้พวกเขาพัฒนาตัวแทน AI ที่สามารถพูดได้อย่างคล่องแคล่ว และสามารถนำบุคลิกเฉพาะมาปรับใช้และติดตามการสนทนาได้ โดยมีการตอบสนองที่สอดคล้องกัน
“บอท AI เชิงสนทนาที่เราพัฒนาขึ้นสามารถหลอกนักต้มตุ๋นให้คิดว่าพวกเขากำลังพูดคุยกับเหยื่อ ดังนั้นพวกมิจฉาชีพจะเสียเวลาพยายามหลอกลวงบอท” Prof. Kaafar กล่าว
บอทเหล่านี้สามารถฝึกฝนในภาษาหรือสำเนียงใดก็ได้ และเนื่องจากการหลอกลวงทางโทรศัพท์เป็นความท้าทายระดับโลก เทคโนโลยีนี้จึงสามารถนำไปใช้ได้ทุกที่ในโลก
ทดลองโทรหลอกลวงมิจฉาชีพ
ขณะนี้ทีมกำลังทดลองใช้แชทบอทกับการโทรจากมิจฉาชีพตัวจริงโอนการโทรสำหรับเหยื่อ ไปยังต้นแบบการทดสอบของพวกเขา ซึ่งเป็นเป้าที่สร้างขึ้นเพื่อหลอกล่อให้มิจฉาชีพเข้ามาโจมตี ที่มีบุคลิกหลากหลาย
Prof. Dali Kaafar ในภาพ และทีมรักษาความปลอดภัยในโลกไซเบอร์หวังว่าบอทต่อต้านการหลอกลวงตัวใหม่ของพวกเขาจะช่วยให้นักต้มตุ๋นอยู่ในสายได้นานถึง 40 นาที และยังช่วยระบุ Call center ที่หลอกลวงทางโทรศัพท์ล่าสุด เพื่อให้ธนาคารสามารถเตือนลูกค้าได้
“เราได้รวบรวมเบอร์โทรศัพท์ Call center มิจฉาชีพเหล่านี้ทั่วอินเทอร์เน็ต ข้อมูลจากแอปสแปมบางแอป หรือที่เผยแพร่บนหน้าเว็บและอื่นๆ เพื่อให้ AI มีโอกาสรับสายหลอกจากมิจฉาชีพมากขึ้น” Prof. Kaafar กล่าว
“เราพบว่าบอทมีปฏิกิริยาค่อนข้างดีต่อสถานการณ์ยุ่งยากบางอย่างที่เราคาดไม่ถึง โดยพวก Call center ขอข้อมูลที่เราไม่ได้ฝึกบอทให้ – แต่บอทกำลังปรับตัว และมาพร้อมกับคำตอบที่น่าเชื่อถือ
“บอทกำลังเรียนรู้อย่างต่อเนื่องว่าจะดึงเวลาการสนทนาออกไปได้อย่างไรเพื่อให้บรรลุวัตถุประสงค์หลัก: ทำให้ Call center อยู่ในสายนานขึ้น”
การปรับใช้บอท Apat ในปัจจุบันอยู่ที่ 5 นาที โดยเฉลี่ยแล้ว และเป้าหมายคือทำให้ถึง 40 นาที
บอทที่ต่อสู้กับการหลอกลวงยังช่วยให้ข้อมูลภัยคุกคาม – ข้อมูลที่ทันท่วงทีซึ่งรวบรวมเกี่ยวกับการหลอกลวงทางโทรศัพท์ในปัจจุบันและเป้าหมายของพวกเขา สิ่งนี้ช่วยให้องค์กรต่างๆ เช่น ธนาคารรายใหญ่ ผู้ค้าปลีก และหน่วยงานของรัฐสามารถเตือนลูกค้าได้
Prof. Kaafar กล่าวว่าทีมกำลังสนทนากับผู้ให้บริการโทรคมนาคมหลายราย และกล่าวว่าพวกเขาเปิดรับพันธมิตรทางการค้าหลายราย
“การเป็นพันธมิตรกับผู้ให้บริการด้านการสื่อสารจะเป็นกุญแจสำคัญในการทำให้สิ่งนี้มีประสิทธิภาพอย่างแท้จริง” Prof. Kaafar กล่าว
“เรามองว่าสิ่งนี้มีศักยภาพมหาศาลในระดับโลก หากเราสามารถเปลี่ยนเส้นทางการเรียกสแปมจำนวนมากที่ผู้ให้บริการกำลังบล็อกอยู่ และส่ง Call center ไปยังบอท Apat โดยใช้เวลาให้มากที่สุดเท่าที่เราจะทำได้ อุตสาหกรรมทั้งหมดจะไม่สามารถทำงานได้อีกต่อไป
“ฉันแนะนำว่าเมตาสถานการณ์ที่ดีที่สุดอาจเห็น Call center ใช้ AI เอง ฝึกแชทบอทหลอกลวงของตนเอง ซึ่งจากนั้นจะเปลี่ยนเป็นพูดกับแชทบอทที่ผู้ให้บริการโทรคมนาคมเป็นเจ้าของ
“หากแชทบอทหลอกลวงคุยกับแชทบอทที่ป้องกันการหลอกลวงแทนที่จะโจมตีเหยื่อตัวจริง ฉันถือว่านั่นเป็นชัยชนะครั้งใหญ่!”
Apate ได้รับทุนสนับสนุนบางส่วนจาก National Intelligence Office ภายใต้โครงการ National Intelligence and Security Discovery Research Grants
Prof. Dali Kaafar เป็นกรรมการบริหารของศูนย์ความปลอดภัยทางไซเบอร์ของมหาวิทยาลัย Macquarie ในคณะวิทยาศาสตร์และวิศวกรรมศาสตร์ มหาวิทยาลัย Macquarie