ผู้ก่อตั้ง Eticas Consulting แนะนำให้องค์กรระหว่างประเทศช่วยระบุและหลีกเลี่ยงอคติ เธอไม่ไว้วางใจ เป้าหมายของการพัฒนาด้าน AI: “การตั้งเป้าว่า data system จะสามารถก้าวกระโดดไปสู่จิตสำนึกของมนุษย์นั้น น่าจะเป็นการหลอน (hallucination)”
The founder of Eticas Consulting advises international organizations to help them identify and avoid bias. She distrusts the expectations of the sector: ‘To propose that a data system is going to make a leap into consciousness is a hallucination
Gemma Galdón ผู้ตรวจสอบอัลกอริทึมชี้ “ปัญญาประดิษฐ์มีคุณภาพต่ำมาก”
ปัญญาประดิษฐ์ไม่ได้มีไว้สำหรับวิศวกรเท่านั้น คุณสามารถเอนเอียงไปทางวิทยาศาสตร์แบบนุ่มนวลมากกว่าวิทยาศาสตร์แบบแข็ง และยังคงกลายเป็นประเด็นอ้างอิงในการอภิปรายระดับโลกเกี่ยวกับผลกระทบทางสังคมและจริยธรรมของสิ่งที่ระบบเหล่านี้ทำ Gemma Galdón ผู้เชี่ยวชาญด้าน AI วัย 47 ปีจาก Mataró ในภูมิภาคคาตาโลเนียทางตะวันออกเฉียงเหนือของสเปน สำเร็จการศึกษาด้านประวัติศาสตร์ร่วมสมัยและได้รับปริญญาเอกสาขานโยบายสาธารณะที่เกี่ยวข้องกับเทคโนโลยี เธอเป็นผู้ก่อตั้งและผู้บริหารระดับสูงของ Eticas Consulting ซึ่งเป็นบริษัทที่ตรวจสอบอัลกอริทึมเพื่อให้แน่ใจว่ามีการใช้อย่างมีความรับผิดชอบ “การได้ตระหนักถึงวิธีที่สังคมแก้ไขปัญหาเก่าทำให้ฉันมีมุมมองที่เป็นประโยชน์ในการรับมือกับปัญหาใหม่ๆ” เธอกล่าวขณะนั่งอยู่ในร้านกาแฟแห่งหนึ่งในกรุงมาดริด “เมื่อ 12 ปีที่แล้ว ตอนที่ฉันเรียนปริญญาเอก มีคนสายสังคมศาสตร์น้อยมากที่ทำงานเกี่ยวกับเทคโนโลยี” ปัจจุบันบริษัทของเธอให้คำปรึกษาแก่องค์กรต่างๆ ในยุโรปและอเมริกา กระเป๋าเดินทางของกัลดอนเต็มไปหมด เธอกำลังจะกลับไปนิวยอร์ก ซึ่งเป็นที่ที่เธออาศัยอยู่ และเพิ่งได้รับรางวัล Hispanic Star Award ซึ่งเป็นรางวัลที่มอบให้กับตัวแทนแห่งการเปลี่ยนแปลงในชุมชนที่พูดภาษาสเปนในงานที่องค์การสหประชาชาติ เธอต้องย้ายไปอเมริกา เนื่องจากในสหรัฐอเมริกา “ตลาดเปิดรับ AI ที่มีความรับผิดชอบมากกว่า”
คำถาม. การตรวจสอบอัลกอริธึมเป็นอย่างไร?
คำตอบ. มันเกี่ยวข้องกับการตรวจสอบระบบปัญญาประดิษฐ์เพื่อดูว่ามันทำงานอย่างไร แต่ก่อนอื่นต้องแน่ใจว่าผลกระทบที่มีต่อสังคมนั้นยุติธรรม และไม่มีการเลือกปฏิบัติ และยิ่งกว่านั้น ระบบนั้นก็ทำในสิ่งที่พวกเขาบอกว่าทำ
ถาม และคุณประสบปัญหาอะไรบ้าง?
ตอบ ในตอนแรกระบบเหล่านี้ก็มีอคติพอๆ กับสังคม แต่หลังจากนั้นไม่นาน ระบบเหล่านี้ก็ถูกเลือกปฏิบัติมากกว่าสังคมมาก นั่นเป็นเพราะว่าสิ่งที่ AI ทำคือใช้ข้อมูลการฝึกอบรมจำนวนมากและมองหารูปแบบ และมีรูปแบบเป็นคนผิวขาวมีงานมั่นคงอยู่เสมอ ในกรณีของธนาคาร นี่จะเป็นลูกค้าในอุดมคติของพวกเขา โปรไฟล์ใดๆ ที่เป็นของชนกลุ่มน้อยหรือเป็นส่วนเล็กๆ จะถูกตัดออกจากตัวอย่าง ดังนั้นผู้หญิงจึงมีโอกาสน้อยมากที่จะได้รับการวินิจฉัยว่าเป็นโรคเยื่อบุโพรงมดลูกเจริญผิดที่ผ่านทาง AI เนื่องจากในอดีตเราไม่ได้รับการวินิจฉัยว่าเป็นโรคเยื่อบุโพรงมดลูกเจริญผิดที่
ถาม มีคนที่บอกว่า AI ไม่สามารถตรวจสอบอย่างละเอียดได้ เพราะแม้แต่ผู้สร้างก็ไม่เข้าใจวิธีการทำงานอย่างถ่องแท้ แต่เรียนรู้ด้วยตัวเอง
ตอบ เท็จ แนวคิดเรื่องกล่องดำนั้นเป็นเพียงตำนาน แต่เป็นการตลาดล้วนๆ ฉันคิดว่ามีความปรารถนาบางอย่างในส่วนของภาค AI ที่จะแสดงให้เห็นว่ามันเป็นสิ่งที่มหัศจรรย์ เพื่อทำให้เราเชื่อว่ามันเป็นสิ่งที่เราไม่สามารถเข้าใจได้ และนำความสามารถของเราที่จะเข้าไปแทรกแซงออกไป สิ่งที่เราได้เห็นคือเราสามารถตรวจสอบได้เมื่อลูกค้าจ้างเราและแสดงให้เราเห็นทุกอย่างในทางปฏิบัติ แต่ยังจากภายนอกที่เราสามารถทำวิศวกรรมย้อนกลับและดูว่าระบบทำงานอย่างไรโดยอิงตามผลกระทบของมัน
ถาม คุณได้แนะนำให้สถาบันทางการเมืองควบคุม AI พวกเขาต้องการอะไร?
ถาม สิ่งที่เกิดขึ้นในช่วงไม่กี่ปีที่ผ่านมาคือสมาชิกสภานิติบัญญัติซึ่งมีเจตนาดีอย่างยิ่ง ได้สร้างชุดกฎระเบียบที่เป็นนามธรรมมาก โดยอิงตามหลักการเป็นอย่างมาก และอุตสาหกรรมก็บ่นว่าไม่มีแนวทางปฏิบัติที่เป็นรูปธรรม เรามีอุตสาหกรรมที่เกิดในรูปของ Silicon Valley ซึ่งคุ้นเคยกับแนวคิดที่ว่า “เคลื่อนที่อย่างรวดเร็วและทำลายสิ่งต่างๆ” โดยไม่ทราบว่าสิ่งที่สามารถทำลายได้คือสิทธิขั้นพื้นฐานหรือกฎหมาย บางครั้งมีความหมกมุ่นอยู่กับการขอโค้ดหรือโมเดลพื้นฐาน สิ่งเหล่านั้นไม่เคยเป็นประโยชน์กับฉันเลย เราขอระดับความโปร่งใสที่ไม่เป็นประโยชน์ต่อการตรวจสอบหรือการตรวจสอบผลกระทบ หากคุณรู้ว่าจะมีการตรวจสอบในระหว่างที่เราจะประเมินเมตริกบางอย่าง คุณจะต้องเริ่มทำการเปลี่ยนแปลง ด้วยเหตุนี้ เราจึงเปลี่ยนแรงจูงใจของอุตสาหกรรมเทคโนโลยีเพื่อให้คำนึงถึงผลกระทบ ความลำเอียง และความผิดปกติประเภทต่างๆ
คุณผิดหวังหรือพอใจกับกฎหมาย AI ที่สหภาพยุโรปตกลงกันหรือไม่?
ถาม สำหรับฉันดูเหมือนเป็นก้าวย่างที่ยิ่งใหญ่ในการควบคุม: มันเป็นกฎหมายฉบับแรกเกี่ยวกับประเด็นเหล่านี้ในตะวันตก สิ่งที่ทำให้ฉันผิดหวังคือบทบาทของยุโรปในการก้าวต่อไปในการสร้างตลาดที่เชื่อมโยงกับ AI ที่มีความรับผิดชอบ ทั้งสหรัฐอเมริกา เอเชีย และจีนต่างก็ร่วมมือกันในเรื่องนี้
ถาม ทุกสิ่งที่นำเสนอว่าเป็นปัญญาประดิษฐ์มีจริงหรือ?
ถาม เราถูกรายล้อมไปด้วยปัญญาประดิษฐ์คุณภาพต่ำมาก มันไม่ใช่ปัญหาของอคติอีกต่อไป มันเป็นเพียงว่ามันไม่ได้ทำในสิ่งที่บอกว่าทำ และทำการตัดสินใจที่มนุษย์จะไม่มีวันทำ ตัวอย่างคือระบบที่ถูกนำไปใช้เพื่อประเมินผลการปฏิบัติงานของครูในระบบการศึกษาของหลายรัฐในสหรัฐอเมริกา คนงานบางคนที่เห็นว่าประสิทธิภาพของตนเปลี่ยนไปอย่างไรในการประเมินด้วยตนเองและอัลกอริทึมจึงนำเรื่องดังกล่าวขึ้นศาล ศาลสั่งให้มีการตรวจสอบ และปรากฏว่าข้อมูลเดียวที่นำมาพิจารณาในการตัดสินว่าคุณเป็นครูที่ดีหรือไม่คือผลลัพธ์ของนักเรียนในการสอบคณิตศาสตร์และภาษา เป็น Excel ที่น่ายกย่อง หากผู้บริหารของโรงเรียนเหล่านั้นได้รับการเสนอระบบนี้เป็นสเปรดชีตที่บันทึกผลการทดสอบคณิตศาสตร์และภาษา พวกเขาคงไม่ซื้อมันเลย
ถาม AI ที่รับผิดชอบจะมีชัยหรือไม่
ตอบ ฉันเป็นคนมองโลกในแง่ดี เมื่อเราตรวจสอบ เราพบระบบที่มีอคติซึ่งทำงานได้ไม่ดีเช่นกัน ปัญญาประดิษฐ์นั้นมีคุณภาพต่ำมากและ ณ จุดหนึ่งอุตสาหกรรมจะต้องปรับปรุงให้ดีขึ้น ระบบเหล่านี้เกิดจากเครื่องมือด้านความบันเทิง เช่น Netflix ซึ่งอาจมีข้อผิดพลาดได้สูง หากภาพยนตร์ที่ Netflix แนะนำไม่ใช่ภาพยนตร์ที่คุณต้องการดูก็ไม่เป็นไร แต่หาก AI ต้องการทำงานในวงการแพทย์แนะนำการรักษา หรือในการคัดเลือกบุคลากร การตัดสินใจว่าเราจ้างใครหรือไล่ใครออก หรือในการจัดสรรทรัพยากรสาธารณะ…ก็ต้องทำงานได้ดี ขณะนี้ AI ที่เรายอมรับไม่เพียงแต่มีอคติเท่านั้น แต่ยังทำงานได้ไม่ดีอีกด้วย สิ่งที่ดีคือปัญหาทั้งสองได้รับการแก้ไขไปพร้อมๆ กัน เมื่อปัญหาอคติได้รับการแก้ไข ความไร้ประสิทธิภาพอื่นๆ ก็ได้รับการแก้ไขด้วย
ถาม การจากไปและการคืนสถานะของ Sam Altman ในตำแหน่ง CEO ของ OpenAI มีความเชื่อมโยงกับความก้าวหน้าที่น่าตื่นเต้นต่อ Artificial General Intelligence (AGI) หรือสติปัญญาขั้นสูง ซึ่งเป็นสิ่งที่คุกคามมนุษยชาติ คุณเชื่อหรือไม่?
ถาม Artificial General Intelligence มีความใกล้เคียงกับตอนที่เพลโตพูดถึงความเป็นไปได้ของโลกและชีวิตประเภทอื่นๆ มนุษยชาติใฝ่ฝันที่จะสร้างจิตสำนึกของมนุษย์ขึ้นมาใหม่โดยอัตโนมัติ เราสามารถฝันถึงอนาคตของนิยายวิทยาศาสตร์ได้ มีการถกเถียงเกี่ยวกับ AGI ที่ไม่เกี่ยวข้องกับความสามารถทางเทคโนโลยีในขณะนี้
ถาม เครื่องจักรจะแซงหน้ามนุษย์ไม่ได้หรือ?
ตอบ วิธีคิดของมนุษย์ ความคิดสร้างสรรค์ สิ่งใหม่ ไม่เกี่ยวข้องกับ AI แบบฝึกหัดง่ายๆ ต่อไปนี้: ถ้าเรามอบงานทั้งหมดของปิกัสโซให้กับระบบก่อนปี 1937 และถามระบบว่า ภาพวาดชิ้นต่อไปของปิกัสโซจะเป็นอย่างไร มันจะผลิตสิ่งเก่าๆ ขึ้นมา แต่ในปี 1937 เขาวาดภาพ Guernica ผู้คนวิวัฒนาการไปในวิถีทางของเราในการแสดงออกถึงความรัก การทำงาน การเขียน และการสร้างสรรค์ การเสนอว่าเมื่อถึงจุดหนึ่งระบบข้อมูลทางสถิติและคณิตศาสตร์จะกระโดดเข้าสู่จิตสำนึกแบบมนุษย์ถือเป็นการหลอน
ถาม สิ่งที่ ChatGPT ทำเมื่อตอบคำถามนั้นเรียกว่าการหลอน มันไม่น่าเชื่อถือใช่ไหม?
ตอบ นี่เป็นกรณีของทนายความที่ทำงานปกป้องเหยื่อของการมีเพศสัมพันธ์กับเด็ก และ ChatGPT ได้สร้างประวัติของเขาที่ทำให้เขากลายเป็นเด็กใคร่เด็ก ทำไม เพราะชื่อของเขาปรากฏเกี่ยวข้องกับคำนี้เกือบตลอดเวลาหรือหลายครั้งกับคำนี้มากกว่าคำอื่น ๆ จึงเชื่อมโยงคำนี้กับคุณเท่านั้นเอง
ถาม คุณศึกษาผลกระทบทางสังคมของ AI แล้วผลกระทบต่อสิ่งแวดล้อมล่ะ? เนื่องจากดาต้าเซ็นเตอร์กลายเป็นแหล่งสิ้นเปลืองน้ำและพลังงานครั้งใหญ่
ตอบ มันไม่สมเหตุสมผลเลยที่ตอนนี้เมื่อพวกเขาทำการตรวจสอบด้านสิ่งแวดล้อมในบริษัทของคุณ พวกเขาจะมาดูว่าคุณมีหลอดไฟประเภทไหน แต่ไม่ได้ดูว่าเซิร์ฟเวอร์อยู่ที่ไหนและข้อมูลอยู่ไกลแค่ไหน ต้องเดินทาง ไม่มีความปรารถนาที่จะประเมินผลกระทบต่อสิ่งแวดล้อมของกระบวนการข้อมูลและส่งเสริมให้อุตสาหกรรมมีเซิร์ฟเวอร์ใกล้กับสถานที่ที่ให้ข้อมูลมากขึ้น มันเป็นการอภิปรายที่เรายังไม่ได้มี ในยุคของการเปลี่ยนแปลงสภาพภูมิอากาศ ไม่สมเหตุสมผลเลยที่เกือบทุกคนพูดถึงเทคโนโลยีว่าเป็นวิธีแก้ปัญหา ไม่ใช่เป็นหนึ่งในปัญหา
ถาม เราไม่ควรพูดถึงสกุลเงินดิจิทัลด้วยซ้ำ โดยคำนึงถึงความต้องการในการบริโภค
ตอบ เช่นเดียวกับที่เรากำลังกำจัดรถยนต์ที่สร้างมลพิษออกจากท้องถนน ในบางจุดเราอาจต้องพิจารณากำจัดเทคโนโลยีที่สร้างมลพิษออกจากการหมุนเวียน บางทีเราอาจต้องเริ่มห้ามสถาปัตยกรรมบล็อคเชนเมื่อคุณค่าทางสังคมไม่อยู่ที่นั่น สิ่งที่สกุลเงินดิจิทัลมอบให้คือเครื่องมือเก็งกำไร ซึ่งเป็นกลไกการลงทุนที่คล้ายคลึงกับ pyramid scheme… หากเราช่วยชีวิตผู้คน ฉันจะพูดว่า: โอเค มันยังสมเหตุสมผลอยู่