Elon Musk ผู้บริหารระดับสูงของ Tesla และ ผู้ก่อตั้ง OpenAIเสนอเมื่อสัปดาห์ที่แล้วว่ามนุษยชาติอาจป้องกันความไม่เกี่ยวข้องจากการเพิ่มขึ้นของเครื่องจักรโดยการรวมเข้ากับเครื่องจักรและกลายเป็นไซบอร์ก อย่างไรก็ตามแนวโน้มปัจจุบันของปัญญาประดิษฐ์เฉพาะซอฟต์แวร์และเทคโนโลยีการเรียนรู้เชิงลึกทำให้เกิดข้อสงสัยอย่างมากเกี่ยวกับความน่าเชื่อถือของการอ้างสิทธิ์นี้ โดยเฉพาะอย่างยิ่งในระยะยาว ข้อสงสัยนี้ไม่ได้เกิดจากข้อจำกัดของฮาร์ดแวร์
เท่านั้น นอกจากนี้ยังเกี่ยวข้องกับบทบาทของสมองมนุษย์ในการจับคู่
วิทยานิพนธ์ของ Musk ตรงไปตรงมา: อินเทอร์เฟซขั้นสูงที่เพียงพอระหว่างสมองและคอมพิวเตอร์จะช่วยให้มนุษย์สามารถเพิ่มขีดความสามารถของตนได้อย่างมากโดยสามารถใช้ประโยชน์จากเทคโนโลยีต่างๆ เช่น การเรียนรู้ของเครื่องและการเรียนรู้เชิงลึกได้ดีขึ้น
แต่การแลกเปลี่ยนไปทั้งสองทาง อินเทอร์เฟซสมองกับเครื่องจักรอาจช่วยประสิทธิภาพของอัลกอริทึมการเรียนรู้ของเครื่องโดยให้มนุษย์ “เติมช่องว่าง” สำหรับงานที่อัลกอริทึมทำได้ไม่ดี เช่น การตัดสินใจตามบริบทที่เหมาะสม
การตัดสินใจที่ดีขึ้นเริ่มต้นด้วยข้อมูลที่ดีขึ้น
ความคิดในตัวเองไม่ใช่เรื่องใหม่ JCR Lickliderและคนอื่นๆ คาดเดาความเป็นไปได้และความหมายของ “การอยู่ร่วมกันระหว่างมนุษย์กับคอมพิวเตอร์” ในช่วงกลางศตวรรษที่ 20
อย่างไรก็ตามความคืบหน้าช้า เหตุผลประการหนึ่งคือการพัฒนาฮาร์ดแวร์ “มีเหตุผลที่พวกเขาเรียกมันว่าฮาร์ดแวร์ – มันยาก” โทนี่ ฟาเดลล์ ผู้สร้าง iPod กล่าว และการสร้างฮาร์ดแวร์ที่เชื่อมต่อกับระบบออร์แกนิกนั้นยากยิ่งกว่า
เทคโนโลยีปัจจุบันนั้นล้าสมัยเมื่อเทียบกับภาพของส่วนต่อประสานสมองกับเครื่องจักรที่เราขายในภาพยนตร์นิยายวิทยาศาสตร์ เช่นThe Matrix
สมมติว่าความท้าทายด้านฮาร์ดแวร์ได้รับการแก้ไขในที่สุด มีปัญหาที่ใหญ่กว่าอยู่ในมือ ทศวรรษที่ผ่านมาของความก้าวหน้าอย่างไม่น่าเชื่อใน การวิจัย การเรียนรู้เชิงลึกได้เผยให้เห็นว่ามีความท้าทายพื้นฐานบางประการที่ต้องเอาชนะ อย่างแรกคือเรายังคงพยายามทำความเข้าใจและอธิบายลักษณะการทำงานของระบบเครือข่ายประสาทที่ซับซ้อนเหล่านี้ให้แน่ชัด
เราเชื่อมั่นในเทคโนโลยีง่ายๆ เช่น เครื่องคิดเลข เพราะเรารู้ว่ามัน
จะทำในสิ่งที่เราต้องการเสมอ ข้อผิดพลาดมักจะเป็นผลมาจากการป้อนข้อมูลผิดพลาดโดยมนุษย์ที่หลงผิด
วิสัยทัศน์หนึ่งของการเสริมเครื่องจักรสมองคือการทำให้เราเหนือมนุษย์ในทางเลขคณิต ดังนั้นแทนที่จะหยิบเครื่องคิดเลขหรือสมาร์ทโฟนออกมา เราสามารถคิดคำนวณและรับคำตอบได้ทันทีจากเครื่อง “ช่วย”
สิ่งที่ยุ่งยากก็คือถ้าเราลองเชื่อมต่อกับฟังก์ชันขั้นสูงที่มีให้โดยเทคนิคการเรียนรู้ของเครื่อง เช่น การเรียนรู้เชิงลึก
สมมติว่าคุณทำงานในตำแหน่งรักษาความปลอดภัยที่สนามบินและมีเครื่องเสริมสมองที่จะสแกนใบหน้านับพันใบหน้าที่คุณเห็นในแต่ละวันโดยอัตโนมัติ และแจ้งเตือนคุณถึงความเสี่ยงด้านความปลอดภัยที่อาจเกิดขึ้น
ระบบแมชชีนเลิร์นนิงส่วนใหญ่ประสบปัญหาที่น่าอับอาย ซึ่งการเปลี่ยนแปลงรูปลักษณ์ของบุคคลหรือวัตถุเพียงเล็กน้อยอาจทำให้ระบบจำแนกสิ่งที่คิดว่ากำลังดูอยู่ผิดไปอย่างมหันต์ เปลี่ยนภาพคนน้อยกว่า 1% และระบบเครื่องอาจคิดว่ากำลังดูจักรยานอยู่
ผู้ก่อการร้ายหรืออาชญากรอาจใช้ประโยชน์จากช่องโหว่ต่างๆ ของเครื่องเพื่อข้ามการตรวจสอบความปลอดภัย ซึ่งเป็นปัญหาที่มีอยู่แล้วในการรักษาความปลอดภัยออนไลน์ แม้ว่ามนุษย์จะถูกจำกัดด้วยวิธีการของตนเอง แต่ก็อาจไม่เสี่ยงต่อการถูกแสวงประโยชน์เช่นนี้
แม้ว่าเทคโนโลยีแมชชีนเลิร์นนิงจะมีชื่อเสียงว่าไม่แสดงความรู้สึกใดๆ แต่ เทคโนโลยีแมชชีนเลิร์นนิง ก็มีอคติเช่นเดียวกับที่มนุษย์ทำ และยังสามารถแสดงพฤติกรรมเหยียดเชื้อชาติได้หากป้อนข้อมูลที่เหมาะสม ความไม่แน่นอนนี้มีนัยสำคัญว่ามนุษย์อาจเชื่อมต่อกับเครื่องจักรได้อย่างไร และที่สำคัญกว่านั้นก็คือความไว้วางใจ
ความน่าเชื่อถือยังเป็นถนนสองทาง ความคิดของมนุษย์เป็นกิจกรรมที่ซับซ้อนและมีพลวัตสูง ในสถานการณ์การรักษาความปลอดภัยเดียวกันนี้ ด้วยส่วนต่อประสานระหว่างสมองกับเครื่องจักรขั้นสูงเพียงพอ เครื่องจักรจะรู้ได้อย่างไรว่ามนุษย์ควรเพิกเฉยต่ออคติใด ท้ายที่สุดแล้วอคติโดยไม่รู้ตัวถือเป็นความท้าทายที่ทุกคนเผชิญ จะเกิดอะไรขึ้นหากเทคโนโลยีช่วยคุณในการสัมภาษณ์ผู้สมัครงาน
เราสามารถดูตัวอย่างปัญหาของความไว้วางใจในส่วนต่อประสานระหว่างสมองกับเครื่องจักรได้ในระดับหนึ่ง โดยดูว่ากองกำลังป้องกันทั่วโลกพยายามจัดการกับความไว้วางใจระหว่างมนุษย์กับเครื่องจักรอย่างไรในสนามรบที่มีระบบผสมระหว่างมนุษย์และอิสระมากขึ้นเรื่อยๆ
การวิจัยเกี่ยวกับระบบอัตโนมัติที่เชื่อถือได้เกี่ยวข้องกับทั้งมนุษย์ที่ไว้วางใจเครื่องจักรและเครื่องจักรที่ไว้วางใจมนุษย์
มีความคล้ายคลึงกันระหว่างนักรบหุ่นยนต์ที่ตัดสินใจอย่างมีจริยธรรมเพื่อเพิกเฉยต่อคำสั่งที่ผิดกฎหมายของมนุษย์กับสิ่งที่จะต้องเกิดขึ้นในส่วนต่อประสานระหว่างสมองกับเครื่องจักร: การตีความความคิดของมนุษย์โดยเครื่องจักร ในขณะที่กรองความคิดที่หายวับไปและอคติที่ฝังลึกโดยไม่รู้ตัว
ในสถานการณ์การป้องกัน บทบาทเชิงตรรกะของสมองมนุษย์คือการตรวจสอบว่าการตัดสินใจมีจริยธรรม แต่สิ่งนี้จะทำงานอย่างไรเมื่อสมองของมนุษย์ถูกเสียบเข้ากับเครื่องที่สามารถทำการอนุมานโดยใช้ข้อมูลในระดับที่ไม่มีสมองสามารถเข้าใจได้
ในระยะยาว ประเด็นคือมนุษย์จำเป็นต้องมีส่วนร่วมในกระบวนการที่กำหนดขึ้นโดยเครื่องจักรหรือไม่ และอย่างไร และอย่างไร ในไม่ช้าเครื่องจักรอาจทำการตัดสินใจทางการแพทย์ที่ไม่มีทีมมนุษย์สามารถหยั่งรู้ได้ สมองของมนุษย์มีบทบาทอย่างไรและควรมีบทบาทอย่างไรในกระบวนการนี้
ในบางกรณี การผสมผสานระหว่างระบบอัตโนมัติและแรงงานมนุษย์สามารถเพิ่มงานได้แต่ผลกระทบนี้อาจเกิดขึ้นเพียงชั่วขณะ หุ่นยนต์และระบบอัตโนมัติเดิมเหล่านั้นจะยังคงปรับปรุงต่อไป ซึ่งอาจนำงานที่พวกเขาสร้างขึ้นในเครื่อง ออกในที่สุด
ในทำนองเดียวกัน แม้ว่าในตอนแรกมนุษย์อาจมีบทบาทที่ “มีประโยชน์” ในระบบสมอง-เครื่องจักร ในขณะที่เทคโนโลยียังคงพัฒนาต่อไป ก็อาจมีเหตุผลน้อยลงที่จะรวมมนุษย์ไว้ในลูปเลย
แนวคิดในการรักษาความเกี่ยวข้องของมนุษย์โดยการรวมสมองมนุษย์เข้ากับสมองเทียมนั้นน่าสนใจ สิ่งที่ต้องติดตามกันต่อไปก็คือ สมองของมนุษย์จะมีส่วนช่วยอะไร โดยเฉพาะอย่างยิ่งเมื่อการพัฒนาเทคโนโลยีแซงหน้าการพัฒนาสมองของมนุษย์ถึงหนึ่งล้านต่อหนึ่ง
