สำหรับใครที่ไม่อยากอ่านยาวๆ อ่านสรุปสั้นๆไปก่อน

1. Deepseek เป็น Opensource MIT License เปิดเผยกระบวนการทั้งหมด
2. Deepseek ใช้ทรัพยากรน้อยจริง ไม่โกหก โดนอเมริกาแงะไปเรียบร้อย
3. คนตัวเล็กไม่ต้องใช้ทรัพยากรเยอะอีกต่อไป การบริโภค GPU จึงลดลง

ส่งผลให้ผลกระทบตลาดหุ้นเทคตกลงทันที ก่อนจะลงเทคนิคขอสรุปค่าใช้จ่ายและผลกระทบก่อน

Deepseek สร้างโดเดลทีเรียกว่า Mixture of Expert แปลง่ายๆว่า มีคนเก่งอยู่หลายคน
ขนาดเต็มคือ 322G in System RAM แต่คนเก่ง 1 คนคือขนาด 63G GPU Ram

พูดง่ายๆคือถ้าคุณจะ Run AI เก่งใกล้เคียงกับ ChatGPT ที่ให้เหตุผลได้คุณต้องการการ์ดจอที่มี Ram 64Gb

มีอะไรบ้าง
GPU
- H100 80GB x 1 ใบ 1.3 ล้านบาท
- A100 40GB x 2 ใบ 7 แสนบาท
- RTX 4090 x 3 ใบ 2.7 แสนบาท ถ้าหาของได้นะ
- RTX 5090 x 2 ใบ 2 แสนบาท ถ้าหาของได้นะ

ส่วน RAM 322Gb ก็ประมาณ 150,000 บาท


ถ้าคุณต้องการ Local LLM หรือ มี ChatGPT เป็นของตัวเอง
คุณสามารถประกอบคอมด้วยงบประมาณ ไม่เกิน 500,000 บาทได้ ที่เหลือเป็นค่าไฟ

มีการคำนวนว่ามีค่าใช้จ่าย 19 บาทต่อ 1ล้านคำ
1 ล้านคำเยอะแค่ไหน ให้ตีว่าเอกสาร 1 หน้ามีคำประกอบด้วย 300 คำ
ก็จะได้เอกสารประมาณ 3333 หน้าในราคา 19 บาท

ประเด็นสำคัญคือ การใช้งานเฉพาะทางหรือใช้งานทั่วไปคุณไม่ต้องเก่งเท่า ChatGPT คุณมีจุดพอใจการใช้งาน
และประหยัดต้นทุน CAPEX, OPEX ในการงานไป 26 เท่าอันนี้คือประเด็น

_______
เทคนิกการพัฒนา แบบเปิดเผย มี 3 หัวข้อซ฿่งพิสูจน์เรียบร้อยแล้วใช้งานได้จริง อาจจะยกไปหน่อยข้ามได้ค่ะ

1 Native FP8 Precision Training การจำจดข้อมูลที่มีจุดทศนิยม 8 หลัก อย่าง Open AI หรือ Llama หรือตัวอื่นๆ ใช้วิธีการเทรนที่ 32fp หรือจุดทศนิยม 32 หลักซึ่งให้ความแม่นยำกว่ามาก

ระหว่าง 8 หลอดไฟ กับ 32 หลอดไฟ แน่นอนว่า 8 หลอดประหยัดไฟกว่า

คำถาม: ถ้า 8 หลอดประหยัดไฟกว่าทำไมเจ้าอื่นไม่ทำละ?

คำตอบ: 3 ปัจจัย
1 ฝั่งอเมริกาไม่มีขีดจำกัดด้านทรัพยากร จึงทดลองในรูปแบบที่ดีที่สุดเก่งที่สุด เติมของได้ไม่หมด เพื่อค้นหาขีดจำกัดในวิธีการนี้ ซึ่งยังไม่เจอ
2 ทุกคนรู้อยู่แล้วว่า 32fp เก่งกว่า 8fp และ 32fp ย่อให้เหลือ 8fp ได้ และเก่งกว่า Native 8fp
3 การใช้งานจริงคือย่อ 16/8/4 ตามวัตถุประสงค์ของงาน

ความแตกต่างและพิเศษของโปรเจ็คนี้คือ สอนด้านกระบวนการ 8fp แต่เก่งเทียบเท่า 32fp เท่าให้ต้นทุนในการเริ่มต้นไม่ต้องสูงอีกต่อไปแล้ว ใครๆก็สร้างได้แล้วในราคาไม่ต้องแพงมาก


เทคนิกต่อมา
2 การพัฒนาเทคนิค Multi-head Latent Attention (MLA)เจ้านี้เรียกว่าเป็นเจ้าแรกๆได้เลยที่ใช้วิธีนี้แบบเปิดเผยและสำเร็จ

เรื่องนี้จะอธิบายยากหน่อยแต่เป็นหัวใจหลักของ AI ในปัจจุบัน
AI 90% ตอนนี้บนโลกพัฒนาด้วยสถาปัตยกรรม Transformer

โดนโยนข้อมูลเยอะๆไปให้มันเรียนรู้ด้วยตัวเอง กระบวนการนี้เรียกว่า Self-Attention มันจะหาความสัมพันธ์ของมันเองจากข้อมูลเยอะๆ แล้วเริ่มปะติดปะต่อข้อมูล ความสัมพันธ์ต่างๆเองได้

โดน Transformer ปกติแล้ว จะบีบข้อมูลกลายเป็นรหัสตัวหนึ่ง แล้วก็แกะรหัสนั้นเป็นข้อมูลกลับมา

ซึ่งกระบวนการบีบและแกะ มีการสูญเสียข้อมูลไประหว่างทาง และมีคอขวดการทำงาน

เทคนิก MLA จะใช้วิธี Projection (Up/Down) ซึ่งก็คือ
Down ลดมิติข้อมูลให้เล็กลง ใช้เฉพาะที่จำเป็นไปคำนวน
Up เพิ่มมิติข้อมูลกลับมาให้สมบูรณ์

ผลลัพธ์ที่ได้จากกระบวนการปรับปรุงนี้คือ ลดการใช้ Memory ลง สามารถแบ่งทรัพยากรไปทำงานพร้อมกันได้เยอะมากขึ้น


และเทคนิกที่ 3 เทคนิกสุดท้าย Multi-token Prediction

Generative AI คือการสร้างข้อมุลทีละจุด ที่ละคำ ศัพท์ทางเทคนิกเรียน Token คือเอาประโยคข้างหน้ามา แล้วทายคำถัดไป ทำแบบนี้ซ้ำๆ จนได้ข้อความที่สมบูรณ์

META Facebook เคยเสนอว่าทำไมไม่ทายทีละหลายๆคำ แต่ยังไม่ทันได้ทำ Deepseek ทำก่อนแล้ว

เราไม่รู้ว่าการประมวลผล 1 คำใช้ไฟฟ้าเท่าไหร่จริงๆ แต่ทำไมไม่ทำให้ประมวลผล 1 ครั้ง ได้คำออกมาซัก 3-4 คำ จะได้ประหยัดไฟเยอะขึ้น

ด้วยเททคนิกนี้เองทำให้ Deepseek สามารถมีต้นทุนในการสร้างข้อมุลได้ต่ำกว่าเข้าตลาด



#########################

Liang Wenfeng CEO of High-Flyer ซึ่งเป็นบริษัท Hedge Fund

เขาทำอะไร กลายเป็นคนที่ถูกค้นหามากที่สุดข้ามคืน
ต้องบอกว่า Project Deepseek เกิดจากกลุ่มคนเก่ง ในบริษัทด้านการเงิน
ไม่ใช่บริษัทด้านเทคหรือ AI จ๋า แต่อาจจะเก่งไม่แพ้กัน

#########################

หุ้นประเภทไหนจะได้รับผลกระทบ
1 ต้นน้ำแบบ Nvidia เพราะคนจะสั่งซื้อน้อยลง แม้ว่ากระบวนการสอน AI ยังต้องพึ่งพา NVIdia แต่ต่อไปนี้การเทรนต่อไปนี้จะใช้ GPU น้อยลงแล้ว ส่วนการใช้การไม่ได้ผูกขาดที่ NVidia ตั้งแต่แรก

2 หุ้นปลายทางอย่าง Microsoft อาจจะไม่ได้ผลกระทบมาก อาจจะดีขึ้นด้วยซ้ำ เพราะต่อไปจะมีวิธีการที่ลดต้นทุนได้มากขึ้น และไม่ต้องซื้ำ GPU เพิ่มอีกในระยะสั้นและยาว




----------------------------
เกร็ดเสริม
1. ทำไม Deepseek โดนเซ็นเซอร์
- การพัฒนา AI จะต้องพัฒนาส่วนที่เรียกว่า Safty Network ป้องกันและกลั่นกรองเรื่องศีลธรรม ตัว Deepseek ตั้งอยู่ที่จีน จึงต้องปรับตามกฎหมายประเทศจีน

2. ตัว Opensource จะโดนเซ็นเซอร์ไหม
- ไม่โดน คุณสามารถ Download ไปพัฒนาต่อเองได้ตาม Opensource MIT License แต่คุณพัฒนาที่ไหนก็ต้องประยุกต์ตามกฎหมายประเทศนั้น

3. จีนจะขโมยข้อมูลเราไปไหม
- ไม่ คุณสามารถ Download และใช้งานเป็น Local LLM ปิดเน็ตออกนอกองค์กร หรือนอกบริษัทได้ ใช้งานส่วนตัว และตัวโมเดลไม่มีอะไรส่งกลับไป


###############
Deepseek มีแผนอะไรนอกจาก ปล่อย Opensource
Deepseek มีแค่ตัว R-1 จริงๆหรอ?
Deepseek ตั้งใจปล่อยช่วงตรุษจีน เพื่ออะไร

เจ้าของ High-Flyer เป็นบริษัทกองทุน เตรียมระดมทุนครั้งใหญ่หรือไม่

การ กรองเนื้อหานั้นก็ถือว่าเป็นความสามารถแบบหนึ่ง
เหมือนที่เราไม่สามารถถามเรื่องก่อการร้าย ฆาตกรรม ทำระเบิด ฆ่าตัวตาย ในตัวอื่นได้

การที่โดนปิดกั้นแสดงว่าตัวโมเดลมันรู้ว่ากำลังทำอะไร

การควบคุมโมเดลขึ้นอยู่กับกฎหมายประเทศนั้นนั้นด้วยว่าต้องปฏิบัติตามกฎหมายประเทศนั้นอย่างไร



ถ้าบอกว่าตอบผิด ตอบมั่วแล้วเอามาเป็นมาตรวัดความสามารถจะถูกต้องกว่า

แต่การกรองเนื้อหาหรือปิดกั้นเนื้อหาแสดงว่าตัวโมเดลเข้าใจ และทำงานตามข้อบังคับบางอย่าง


แต่ถ้าถามว่าตัว opensource มันจะปิดกั้นไหม ต้องบอกว่าทำไม้ไก้ เพราะมันทำหน้าที่ทายคำถัดๆไป มันจะตอบให้จนกว่จะสมบรณ์ ในขั้นตอนการพัฒนา ไม่ใช่ทุกคำถามจะตอบได้ ทางผู้พัฒนาต้องมีวิธีรับมือกับคำถามต่างๆด้วย


...

ประเด็นหลักคือการสร้างผลกระทบในวงกว้างเรื่องจองต้นทุนการพัฒนา และต้นทุนการดำเนินการที่เปลี่ยนไป

ทำให้เจ้าตลาดเริ่มไม่มั่นคง แม้จะนำอยู่ แต่ความสามาาถในการทำกำไรยังยากอยู่

Model ทลายการผูกขาดทุนใหญ่เมกา

กองจีนบวกหน่อยเว้ย

ถามตรงๆ มันทำ NSFW ได้มั้ย

ใจเย็นๆ ตอนนี้ทำได้แค่พวกข้อมูลพิมพ์ถามตอบ

ตัวที่เราใช้งานกันบนเว็บมีระบบกรองเนื้อหา

ต้องให้คนที่มีเครื่องสามารถติดตั้ง Model ตัวนี้ลงเครื่องได้ทดลองค่ะ
เพราะตัวที่ติดตั้งเอง จะสามารถเปิดความสามารถได้เต็มประสิทธิภาพ

เดี๋ยว openAI google เปิดตัวใหม่มันก็ swing กลับ ทีใครทีมัน

ในมุมมมองผม efficiency vs capability มันคนละอย่างกันเลย และปรกติ efficiency จะมาทีหลังหลังจากเราค้นพบขีดจำกัดของสิ่งๆนั้นแล้ว ยกตัวอย่างการ์ดจอ nivida สมัยก่อนแต่ละรุ่นแรงขึ้นเยอะมากๆ แต่พอตอนนี้มันเหมือนติดเพดานด้าน hardware แล้วเค้าเลยมาโฟกัสที่ efficiency ในการใช้ hardware ให้มากขึ้นแทนที่จะมี hardware ที่แรงขึ้น

ไม่ต่างอะไรกับ AI Race คือฝั่งยุโรปมี resource เยอะเค้าก็โฟกัสที่การพัฒนาให้เร็วที่สุดโดยไม่สน cost แต่สุดท้ายแล้วพอถึง stable stage แล้วบริษัทพวกนี้สามารถทำให้ efficiency เพิ่มขึ้นได้ง่ายๆเลย

แต่ละ model มีปรัชญาในการพัฒนาต่างกันอย่างสิ้นเชิง deepseek ปรัชญาคือลด cost แต่ก็ไม่ได้หมายความว่าสุดท้ายแล้ว model ที่ถูกที่สุดจะเป็นผู้ชนะ ตอนนี้ความสามารถของ GenAI แม่งยังไม่ถึง10% เลยมั้งของ ideal theory เพราะฉะนั้นมาเน้นการลด cost ตอนนี้เลยมันจะไปสร้างขีดจำกัดให้ model ตัวเองขึ้นมาเฉยๆ อันนี้มมุมมองผมนะ

สุดท้ายแล้วคนที่โฟกัสกับการ save cost ก่อนก็จะพ่ายแพ้ไปเพราะสู้ไม่ได้ในด้านความสามารถ

Overreacted เกินไป
แต่ก็ดีที่ทำให้เราได้ช้อน

องค์กรเล็กๆเอาไปเทรนได้ถูกเลย แต่จะหาข้อมูลจากไหนไปป้อนอะ

เมื่อมีข่าว Deepseek ในเฟสบุ๊ค

ข้อมูลบนอินเตอร์เน็ตถูกดูดไปเก็บไว้หมดแล้วที่ https://commoncrawl.org/

ขอบคุณครับ เพราะ ใช้แบบ API ของ ตัวหลักตอนนี้บางตัวก็ได้มาก บางตัวก็ไม่ได้
เลยอยากรู้น่ะครับ

Hedge Fund High-Flyer เป็นบริษัทจำกัดไม่ได้อยู่ในตลาด น่าจะไม่กระทบกับตลาดหุ้นจีน

ตลาดจะวิ่งได้อาจจะมี 2 สาเหตุ

1 AI สามารถ เทรนได้โดยไม่พึ่งพา NVIdia อีกต่อไป
2 จีนพัฒนาชิป AI ของตัวเองได้
3 บริษัทใหญ่ไหนจะเป็นผู้สนับสนุน High-Flyer น่าจะวิ่งตามกันไป

แต่มองอีกมุม มันก็ทำให้กระบวนการของฝั่งตะวันตก ต้องตัดสินใจปล่อยของเร็วขื้น แต่ก็มาพร้อมความเสี่ยงด้านจริยธรรม ที่อาจนำไปสู่การใช้งานในทางที่ผิดได้เช่นกัน

Deepseek จะได้เปรียบตรงเป็น open-source และ เรียกเหล่า dev มาช่วยกันได้มากกว่า อนาคตเราอาจได้เห็นอะไรใหม่ๆเพี่มเติมก็เป็นได้นะครับ

เป็น คหสต ผมนะครับ มีอะไรก็แลกเปลี่ยนประเด็นกันได้ครับ

ดีครับ ผมว่ามันเปิดโลกเลยล่ะที่บอกต้องใช้ทรัพยากรมหาศาลตอนนี้ มันก็ไม่ใช่แบบนั้นซะทีเดียวแล้ว และชอบตรง open อีก