เจฟฟรีย์ ฮินตัน เตือนภัย AI หลังรับรางวัลโนเบล สาขาฟิสิกส์

CNN - นักวิทยาศาสตร์คอมพิวเตอร์ เจฟฟรีย์ ฮินตัน ได้รับรางวัล โนเบลสาขาฟิสิกส์ จากผลงานวิจัยด้าน การเรียนรู้ของเครื่อง (machine learning) และหลังจากการประกาศรางวัลไม่นาน เขาได้แสดงความกังวลเกี่ยวกับอำนาจของเทคโนโลยีที่เขามีส่วนช่วยพัฒนา นั่นคือ ปัญญาประดิษฐ์ (AI)

"มันจะเปรียบเสมือนกับการปฏิวัติอุตสาหกรรม แต่แทนที่จะแซงหน้าคนในด้านกำลังทางกาย มันจะเหนือกว่าคนในด้านความสามารถทางปัญญา เราไม่มีประสบการณ์ในการเผชิญหน้ากับสิ่งที่ฉลาดกว่าเรา" ฮินตันกล่าวหลังการประกาศรางวัล

ฮินตัน ซึ่งถูกขนานนามว่าเป็น "บิดาแห่งเทคโนโลยีนี้" ได้ลาออกจาก Google เพื่อเตือนถึงอันตรายที่อาจเกิดขึ้นจาก AI โดยปัจจุบันเขาสังกัดที่มหาวิทยาลัยโตรอนโต และได้รับรางวัลร่วมกับศาสตราจารย์ จอห์น ฮอพฟิลด์ แห่งมหาวิทยาลัยพรินซ์ตัน สำหรับการค้นพบและพัฒนารากฐานของการเรียนรู้ของเครื่องด้วยเครือข่ายประสาทเทียม

แม้ฮินตันจะยอมรับว่า AI อาจช่วยพัฒนาสังคมได้อย่างมาก เช่น การเพิ่มประสิทธิภาพในระบบสุขภาพ แต่เขาก็เน้นถึงความกังวลเกี่ยวกับ "ผลกระทบเชิงลบที่อาจเกิดขึ้น โดยเฉพาะภัยคุกคามจากการที่สิ่งเหล่านี้อาจควบคุมไม่ได้"

“ผมกังวลว่าผลลัพธ์ที่อาจเกิดขึ้นคือการที่ระบบที่ฉลาดกว่าเราในที่สุดจะเข้าควบคุมทุกอย่าง” ฮินตันกล่าว

ฮินตันไม่ใช่ผู้ได้รับรางวัลโนเบลคนแรกที่แสดงความกังวลต่อความเสี่ยงของเทคโนโลยีที่เขาช่วยบุกเบิก นี่คือตัวอย่างของผู้ที่เคยออกมาเตือนถึงอันตรายจากงานวิจัยของตนเอง



1935: รางวัลโนเบลที่เชื่อมโยงกับการสร้างอาวุธนิวเคลียร์

ในปี 1935 รางวัลโนเบลสาขาเคมีถูกมอบให้กับคู่สามีภรรยา เฟรเดริก โจลิโอ-คูรี และ ไอรีน โจลิโอ-คูรี (บุตรสาวของมารีและปิแอร์ คูรี ผู้ได้รับรางวัลโนเบลเช่นกัน) จากการค้นพบอะตอมกัมมันตรังสีที่สร้างขึ้นในห้องปฏิบัติการเป็นครั้งแรก ซึ่งงานวิจัยนี้ไม่เพียงแต่ช่วยพัฒนาในด้านการแพทย์ โดยเฉพาะการรักษามะเร็ง แต่ยังเป็นรากฐานของการพัฒนา ระเบิดปรมาณู ในอนาคต

ในปาฐกถาโนเบลของเขาในปีนั้น โจลิโอได้เตือนว่า นักวิทยาศาสตร์ในอนาคตอาจจะสามารถทำให้เกิด "การเปลี่ยนแปลงในลักษณะที่เกิดการระเบิดได้" ซึ่งเป็นการปฏิกิริยาลูกโซ่ทางเคมีอย่างแท้จริง

“หากการเปลี่ยนแปลงเช่นนี้แพร่กระจายไปในสสาร พลังงานจำนวนมหาศาลที่ถูกปลดปล่อยออกมาอาจเป็นไปได้" เขากล่าว “แต่น่าเสียดาย หากการแพร่กระจายนี้เกิดขึ้นกับธาตุทั้งหมดบนโลก ผลลัพธ์จากการปลดปล่อยพลังงานที่มากมายนี้อาจทำให้เกิดหายนะที่น่ากลัว”

แม้กระนั้น โจลิโอได้ทำนายว่า นักวิจัยในอนาคตจะพยายามทำให้กระบวนการนี้สำเร็จ "โดยหวังว่าพวกเขาจะใช้ความระมัดระวังอย่างเหมาะสม"



1945: คำเตือนแรกเกี่ยวกับการดื้อยาปฏิชีวนะ

เซอร์อเล็กซานเดอร์ เฟลมมิง ผู้ค้นพบเพนิซิลลิน ได้รับรางวัลโนเบลสาขาการแพทย์ในปี 1945 ร่วมกับ เอิร์นส์ เชน และ เซอร์เอ็ดเวิร์ด ฟลอรี จากการค้นพบและการประยุกต์ใช้เพนิซิลลินในการรักษาโรคติดเชื้อแบคทีเรีย

แม้เฟลมมิงจะค้นพบเพนิซิลลินตั้งแต่ปี 1928 แต่เมื่อถึงเวลาที่เขากล่าวปาฐกถาโนเบลในปี 1945 เขาได้เตือนถึงภัยที่อาจเกิดขึ้นจากการใช้ยาปฏิชีวนะว่า "มันไม่ยากที่จะทำให้จุลชีพดื้อต่อเพนิซิลลินในห้องปฏิบัติการ โดยการให้ยาในปริมาณที่ไม่เพียงพอในการฆ่าพวกมัน และสิ่งนี้ก็เกิดขึ้นในร่างกายคนเช่นกัน"

เขาเสริมว่า “อาจจะมีวันหนึ่งที่ใครๆ ก็สามารถซื้อเพนิซิลลินได้ตามร้านค้า และเมื่อถึงตอนนั้น คนที่ไม่มีความรู้ก็อาจจะใช้ยาในปริมาณน้อยเกินไป ทำให้จุลชีพในร่างกายได้รับยาในปริมาณที่ไม่พอจะฆ่า และในที่สุดมันก็จะดื้อยา”

คำเตือนนี้ถูกมองว่าเป็นคำทำนายล่วงหน้าที่สำคัญมากในขณะนั้น ดร.เจฟฟรีย์ เกอร์เบอร์ แพทย์ด้านโรคติดเชื้อแห่งโรงพยาบาลเด็กฟิลาเดลเฟียกล่าวว่า ปัจจุบันการดื้อยาต้านจุลชีพถือเป็นหนึ่งในภัยคุกคามต่อสุขภาพทั่วโลกที่สำคัญที่สุด องค์การอนามัยโลก (WHO) รายงานว่าการดื้อยานี้ส่งผลให้มีผู้เสียชีวิต 1.27 ล้านคนในปี 2019 เพียงปีเดียว

จุดสำคัญของคำเตือนของเฟลมมิงอาจไม่ใช่เพียงเรื่องการใช้ยาในปริมาณต่ำ แต่คือการใช้ยาปฏิชีวนะเกินความจำเป็น ซึ่งในปัจจุบันเราเห็นแบคทีเรียที่ดื้อต่อยาปฏิชีวนะเกือบทุกชนิดที่เรามี" เกอร์เบอร์กล่าวเสริม.



1980: เทคโนโลยี DNA รีคอมบิแนนท์และคำเตือนของ Paul Berg

พอล เบิร์ก ผู้ได้รับรางวัลโนเบลสาขาเคมีในปี 1980 สำหรับการพัฒนา เทคโนโลยี DNA รีคอมบิแนนท์ ซึ่งเป็นก้าวแรกในการสร้างอุตสาหกรรมเทคโนโลยีชีวภาพ แม้ว่าเขาจะไม่ได้ออกคำเตือนที่ชัดเจนเหมือนกับผู้ได้รับรางวัลโนเบลบางคน แต่เบิร์กได้ยอมรับถึงความกังวลเกี่ยวกับผลกระทบจากวิศวกรรมพันธุกรรมที่อาจเกิดขึ้น เช่น การทำสงครามชีวภาพ อาหารดัดแปลงพันธุกรรม และการบำบัดด้วยยีน ซึ่งเกี่ยวข้องกับการแทนที่ยีนที่ผิดปกติซึ่งเป็นสาเหตุของโรคด้วยยีนที่ทำงานได้ปกติ

ในปาฐกถาโนเบลปี 1980 เบิร์กเน้นถึงปัญหาการบำบัดด้วยยีนว่า “วิธีนี้ยังมีความท้าทายและความไม่แน่นอนมากมาย เช่น คำถามเกี่ยวกับความเป็นไปได้และความต้องการสำหรับโรคทางพันธุกรรมใด ๆ ยังไม่ต้องพูดถึงความเสี่ยงที่อาจเกิดขึ้น”

แม้ว่าเบิร์กและนักวิทยาศาสตร์คนอื่น ๆ จะตระหนักถึงอันตรายของเทคโนโลยีนี้ พวกเขาได้รวมตัวกันในการประชุม Asilomar ปี 1975 เพื่อสร้างมาตรการป้องกัน และเบิร์กกล่าวว่า “ความกังวลเรื่อง DNA รีคอมบิแนนท์หรือวิศวกรรมพันธุกรรมมาจากนักวิทยาศาสตร์เอง ซึ่งเป็นเรื่องที่สำคัญอย่างยิ่ง”

แม้ว่าเขาจะเตือนถึงความเสี่ยง แต่เบิร์กได้จบปาฐกถาด้วยความเชื่อมั่นในศักยภาพของเทคโนโลยีนี้ “ความก้าวหน้าใน DNA รีคอมบิแนนท์ได้มอบเครื่องมือที่ทรงพลังใหม่ให้เรา เพื่อใช้ในการแก้ไขปัญหาที่มนุษย์สงสัยและพยายามหาคำตอบมานานนับศตวรรษ”



2020: เทคโนโลยีแก้ไขยีนและการเตือนภัยจากนักวิทยาศาสตร์

เมื่อสี่ปีที่แล้ว เจนนิเฟอร์ ดาวด์นา และ เอ็มมานูเอล ชาร์ปองติเยร์ ได้รับรางวัลโนเบลสาขาเคมีร่วมกันจากการพัฒนาเทคนิค CRISPR-Cas9 สำหรับการแก้ไขจีโนม ในปาฐกถาของเธอ ดาวด์นาได้กล่าวถึง “โอกาสที่น่าตื่นเต้นและพิเศษสุด” ของเทคโนโลยีนี้ในการประยุกต์ใช้ในด้านสาธารณสุข การเกษตร และชีวการแพทย์

อย่างไรก็ตาม เธอเน้นว่าการใช้เทคโนโลยีนี้ใน เซลล์สืบพันธุ์ ของมนุษย์ต้องดำเนินการอย่างระมัดระวังมากกว่าการใช้ใน เซลล์โซมาติก เพราะการเปลี่ยนแปลงทางพันธุกรรมในเซลล์สืบพันธุ์จะถูกถ่ายทอดไปยังรุ่นลูกหลาน ขณะที่การแก้ไขในเซลล์โซมาติกจะส่งผลแค่ในบุคคลนั้น ๆ เท่านั้น

“การแก้ไขจีโนมในเซลล์สืบพันธุ์เป็นเครื่องมือที่ทรงพลัง เมื่อเราคิดถึงการใช้งานในพืช หรือการสร้างโมเดลสัตว์เพื่อศึกษาความเจ็บป่วยของมนุษย์” ดาวด์นากล่าว “แต่มันแตกต่างมากเมื่อเราพิจารณาประเด็นทางจริยธรรมและสังคมที่เกิดจากความเป็นไปได้ในการใช้การแก้ไขจีโนมในมนุษย์”

ดาวด์นา ซึ่งเป็นผู้ก่อตั้ง สถาบัน Innovative Genomics ได้กล่าวกับ CNN ว่า เธอเชื่อว่า “การเตือนจากนักวิทยาศาสตร์เกี่ยวกับการใช้ค้นพบทางวิทยาศาสตร์ในทางที่ผิดเป็นความรับผิดชอบที่สำคัญ และเป็นการให้บริการสาธารณะที่มีคุณค่า โดยเฉพาะอย่างยิ่งเมื่อการค้นพบนั้นมีผลกระทบต่อสังคมในวงกว้าง”

เธอเสริมว่า “พวกเราที่ใกล้ชิดกับวิทยาศาสตร์ CRISPR เข้าใจดีว่ามันเป็นเครื่องมือที่ทรงพลังที่สามารถเปลี่ยนแปลงสุขภาพและโลกของเราในทางที่ดี แต่ก็อาจถูกนำไปใช้ในทางที่ไม่ถูกต้องได้เช่นกัน เราเคยเห็นความสามารถแบบสองทางนี้ในเทคโนโลยีปฏิวัติอื่น ๆ เช่น พลังงานนิวเคลียร์ และตอนนี้คือ AI”

CNN’s Christian Edwards และ Katie Hunt มีส่วนในการรายงานข่าวนี้.
ที่มา: https://edition.cnn.com/2024/10/13/health/nobel-laureate-warnings-ai

###############################################################

ในปี 2024 ผู้ได้รับรางวัลโนเบลแต่ละสาขามีดังนี้



สาขาฟิสิกส์: มอบให้แก่ John J. Hopfield และ Geoffrey E. Hinton จากการค้นพบและพัฒนาเทคโนโลยีที่ทำให้เกิดการเรียนรู้ของเครื่อง (machine learning) ด้วยเครือข่ายประสาทเทียม ซึ่งเป็นพื้นฐานสำคัญของ AI ในปัจจุบัน​



สาขาสรีรวิทยาหรือการแพทย์: มอบให้กับ Victor Ambros และ Gary Ruvkun สำหรับการค้นพบกลไกการควบคุมยีนผ่าน microRNA ซึ่งมีความสำคัญอย่างยิ่งต่อการทำความเข้าใจการทำงานทางชีวภาพของเซลล์​



สาขาเคมี: มอบให้แก่ David Baker, Demis Hassabis, และ John Jumper จากการพัฒนา AI ที่สามารถทำนายโครงสร้างโปรตีน และการออกแบบโปรตีนที่สามารถนำไปใช้ในการพัฒนายาและวัคซีน​



สาขาวรรณกรรม: มอบให้กับ Han Kang นักเขียนจากเกาหลีใต้ ด้วยผลงานที่สำรวจความเจ็บปวดและความเปราะบางของชีวิตมนุษย์ผ่านภาษาเชิงกวีที่ทรงพลัง​



สาขาสันติภาพ: มอบให้แก่ Nihon Hidankyo องค์กรของผู้รอดชีวิตจากการโจมตีด้วยระเบิดนิวเคลียร์ในญี่ปุ่น ที่มีบทบาทสำคัญในการส่งเสริมโลกที่ปลอดนิวเคลียร์​

ที่มา: https://www.nobelprize.org

ทุกเคสที่ชิบหายหลังจากคำเตือน ก็ล้วนมาจากฝีมือของมนุษย์เอง ไม่ได้มาจากตัววิทยาการนั้นๆเกิดขึ้นเองเลยซักอัน

เทคโนโลยี AI ก็เหมือนกัน..อย่ากลัวว่ามันจะฉลาดจนควบคุมไม่อยู่ เลยเถิดไปถึงล้างบางมนุษย์แล้วยึดครองโลกเองเลย..

ไปกลัวมนุษย์ด้วยกันเนี่ยแหละ ที่จะใช้มันเป็นเครื่องมือ ในการสร้างความชิบหายให้กับมนุษย์ด้วยกันเอง

งงสาขาฟิสิกส์

ทุกเคสที่ชิบหายหลังจากคำเตือน ก็ล้วนมาจากฝีมือของมนุษย์เอง ไม่ได้มาจากตัววิทยาการนั้นๆเกิดขึ้นเองเลยซักอัน

เทคโนโลยี AI ก็เหมือนกัน..อย่ากลัวว่ามันจะฉลาดจนควบคุมไม่อยู่ เลยเถิดไปถึงล้างบางมนุษย์แล้วยึดครองโลกเองเลย..

ไปกลัวมนุษย์ด้วยกันเนี่ยแหละ ที่จะใช้มันเป็นเครื่องมือ ในการสร้างความชิบหายให้กับมนุษย์ด้วยกันเอง

whatever will be, will be สิ่งเหล่านี้เราควบคุมมันไม่ได้อยู่แล้ว ฮ่าๆๆ

ช่ายๆ

ทุกวันนี้ผมใช้ไอ chat gpt บ่อยมากๆ บ่อยจนผมขี้เกียจเขียนรายงาน เขียนบทความเอง ผมก็เอาตัวอย่างให้มันดูว่าผมต้องการอะไรยังไง หลังจากนั้นมันเขียนให้ผมอย่างโอเลย แล้วพอผมต้องกลับมาเขียนเอง ชิบหายเขียนไม่ออก เลยต้องหยุดใช้มันกับบางเรื่องซักพัก เดี๋ยวสมองจะไม่ทำงาน ฮ่าๆ

เพราะนักวิทย์ คือนักวิทย์ นายทุนคือนายทุน และนักวิทย์ส่วนใหญ่ขอตังจากนายทุน เหตุการณ์แบบนี้มันจะเกิดเป็นวงจรอุบาทว์ของโลกใบนี้ตลอดไปครับ

AI deepfake เดียวนี้โหดมาก ตัดต่อได้ทุกอย่างเลย

ขอบคุณสำหรับการแจ้งเตือน การที่คนระดับนี้แจ้งเตือนออกมา ผมว่าคงทำให้หลายฝ่ายมองเห็นข้อเสีย ข้อด้อย ของเอไอ จะได้มีการปรับปรุงแก้ไขในอนาคตให้ดีขึ้นในทุกมุมทุกด้าน

AI อีกซักพักต้องมีควบคุม ไม่งั้นคงได้เป็นแบบดูนแหละ

ยาฆ่าเชื้อนี่ภัยเงียบมาก หาซื้อได้ตามร้านขายยาทั่วไป ที่สำคัญวินัยการกินยาจนหมดของหลายๆคนก็ค่อนข้างแย่ ในอนาคตดื้อยากันระนาวแน่