Huang Renxun: พลังการประมวลผล AI ของ Nvidia ขายในราคาลด 10%

巴比特_

ผู้แต่ง | หลิง จือจุน, ลี่ หยวน

บรรณาธิการ | จิงหยู

แหล่งที่มาของรูปภาพ: สร้างโดย Unbounded AI

Huang Renxun สวมแจ็กเก็ตหนัง ยืนอยู่บนกระดานโต้คลื่นสีน้ำเงินและโพสท่าโต้คลื่นสองสามท่า

นี่ไม่ใช่ VidCon ซึ่งเป็นงาน “Internet Red Festival” ในสหรัฐอเมริกา แต่เป็นฉากในการประชุมนักพัฒนาของ Snowflake ซึ่งเป็นแพลตฟอร์มข้อมูลที่มีชื่อเสียงในสหรัฐอเมริกา

เมื่อวันที่ 26 มิถุนายนตามเวลาท้องถิ่น Huang Renxun ผู้ก่อตั้ง Nvidia และ Frank Slootman CEO ของ Snowflake ได้พูดคุยกันถึง “วิธีนำ AI เชิงสร้างสรรค์มาสู่ผู้ใช้ระดับองค์กร” โฮสต์คืออดีต Greylock GP ซึ่งปัจจุบันเป็นผู้ก่อตั้งหน่วยงานการลงทุน Conviction

ในการประชุมเมื่อเปรียบเทียบกับผู้จัดการมืออาชีพที่เป็นผู้ใหญ่และสุขุมรอบคอบของ “เจ้าภาพ” แฟรงค์ “เจ้าพ่อหนัง” ก็น่าทึ่งเหมือนเคย ไม่เพียงบอกว่าความร่วมมือระหว่างทั้งสองฝ่ายคือ “เราคือคู่รัก ไม่ใช่นักสู้” ( เราคือคู่รัก ไม่ใช่นักสู้) เป็นเรื่องตลกยิ่งกว่าที่โมเดลที่ผ่านการฝึกอบรมมาสำหรับ Snowflake นั้นเทียบเท่ากับการ “ลดราคา 10%” ให้กับลูกค้า

ในวันเดียวกัน Nvidia และ Snowflake ได้ร่วมกันเปิดตัวความเคลื่อนไหวครั้งใหญ่: บริษัทชิปอันดับ 1 ของโลกร่วมมือกับแพลตฟอร์มข้อมูลบนคลาวด์ที่ได้รับความนิยมสูงสุดเพื่อเปิดตัวความร่วมมือร่วมกัน **ผู้ใช้ Snowflake สามารถใช้โมเดล AI ที่ได้รับการฝึกฝนล่วงหน้าของ Nvidia ได้โดยตรงเพื่อวิเคราะห์ข้อมูลของบริษัทของตนเองบนแพลตฟอร์มคลาวด์โดยไม่ต้องออกจากแพลตฟอร์ม และพัฒนา “แอปพลิเคชัน AI” สำหรับข้อมูลของตนเอง **

“การเปลี่ยนแปลงที่สำคัญในปัจจุบันมาจากข้อมูล + อัลกอริธึม AI + เครื่องมือประมวลผล เราสามารถนำสามประเด็นนี้มารวมกันได้ด้วยความร่วมมือของเรา” Huang Renxun กล่าว

ประเด็นพูดคุย:

  • โมเดลภาษาขนาดใหญ่ + ฐานข้อมูลเฉพาะองค์กร = แอปพลิเคชัน AI สำหรับปัญหาเฉพาะ
  • เคยเป็นข้อมูลไปทำงาน แต่ตอนนี้เป็นข้อมูลไปทำงานข้อมูล ช่วยให้คอมพิวเตอร์ไปยังตำแหน่งที่ตั้งของข้อมูล หลีกเลี่ยงเกาะข้อมูล
  • โมเดลก่อนการฝึกอบรมที่จัดทำโดย Nvidia ได้รับการฝึกอบรมในโรงงาน Nvidia AI ด้วยราคาหลายหมื่นล้านดอลลาร์ ดังนั้นการเรียกโปรแกรมคอมพิวเตอร์บน Snowflake จึง “ลดราคา 0.5”
  • ในยุคซอฟต์แวร์ 3.0 ตามโมเดลและฐานข้อมูล องค์กรต่างๆ สามารถสร้างแอปพลิเคชันเฉพาะของตนเองได้ภายในเวลาไม่กี่วัน
  • ในอนาคต องค์กรต่างๆ จะสามารถผลิตตัวแทนอัจฉริยะจำนวนมากและดำเนินการได้
  • สำหรับองค์กร ปัญหาที่แท้จริงคือวิธีการระดมข้อมูลที่มีโครงสร้างและไม่มีโครงสร้างผสมกัน สิ่งนี้อาจนำไปสู่การปรับปรุงรูปแบบธุรกิจ

ต่อไปนี้เป็นเนื้อหาหลักของบทสนทนาระหว่างทั้งสองฝ่าย แก้ไขโดย Geek Park:

01 พูดคุยเกี่ยวกับความร่วมมือ: นำเครื่องมือคอมพิวเตอร์ที่ดีที่สุดมาสู่ข้อมูลที่มีค่าที่สุด

แฟรงค์:

ปัจจุบัน NVIDIA มีบทบาทสำคัญในประวัติศาสตร์ สำหรับเรา ความสามารถในการนำข้อมูลและความสัมพันธ์มาสู่องค์กรขนาดใหญ่ เราจำเป็นต้องเปิดใช้งานเทคโนโลยีนี้และกลุ่มบริการทั้งหมดเพื่อใช้งานอย่างมีประสิทธิภาพ ฉันไม่ต้องการที่จะอธิบายว่ามันเป็น “การจับคู่ที่สวรรค์สร้างขึ้น” แต่สำหรับคนธรรมดามันเป็นโอกาสที่ดีที่จะเข้าสู่ประตูแห่งโอกาสนี้

หวงเหรินซุน:

เราเป็นคู่รักไม่ใช่คู่แข่ง **เราต้องการนำเครื่องมือคอมพิวเตอร์ที่ดีที่สุดในโลกมาสู่ข้อมูลที่มีค่าที่สุดในโลก มองย้อนกลับไป ผมทำงานมานาน แต่อายุยังไม่ถึงขนาดนั้น แฟรงค์ คุณแก่กว่า (หัวเราะ) **

เมื่อเร็ว ๆ นี้ ข้อมูลมีขนาดใหญ่และข้อมูลมีค่าเนื่องจากเหตุผลที่ทราบกันดี มันต้องปลอดภัย การย้ายข้อมูลเป็นเรื่องยาก และแรงโน้มถ่วงของข้อมูลก็จริง ดังนั้นจึงง่ายกว่ามากสำหรับเราที่จะนำเครื่องมือคำนวณของเราไปที่ Snowflake ความร่วมมือของเราเกี่ยวกับการเร่ง Snowflake แต่ก็เกี่ยวกับการนำ AI มาสู่ Snowflake **

**แกนหลักคือการผสมผสานระหว่างข้อมูล + อัลกอริทึมปัญญาประดิษฐ์ + เครื่องมือประมวลผล ความร่วมมือของเรารวมทั้งสามสิ่งเข้าด้วยกัน **ข้อมูลที่มีค่าอย่างเหลือเชื่อ ปัญญาประดิษฐ์ที่ยอดเยี่ยมอย่างไม่น่าเชื่อ เครื่องมือคำนวณที่ยอดเยี่ยมอย่างไม่น่าเชื่อ

สิ่งที่เราทำได้ร่วมกันคือช่วยลูกค้านำข้อมูลที่เป็นกรรมสิทธิ์ของตนไปใช้เขียนแอปพลิเคชัน AI คุณรู้ไหม ความก้าวหน้าครั้งใหญ่ที่นี่คือเป็นครั้งแรกที่คุณสามารถพัฒนาโมเดลภาษาขนาดใหญ่ได้ คุณวางไว้ข้างหน้าข้อมูลของคุณ จากนั้นคุณพูดคุยกับข้อมูลของคุณเหมือนกับที่คุณคุยกับมนุษย์ และข้อมูลนั้นจะถูกเพิ่มเข้าไปในโมเดลภาษาขนาดใหญ่

การรวมกันของโมเดลภาษาขนาดใหญ่และฐานความรู้เท่ากับแอปพลิเคชัน AI ** อันนี้ง่าย โมเดลภาษาขนาดใหญ่จะเปลี่ยนฐานความรู้ของข้อมูลให้เป็นแอปพลิเคชัน **

ลองนึกถึงแอพที่น่าทึ่งทั้งหมดที่ผู้คนเขียนขึ้น โดยพื้นฐานแล้วมีข้อมูลที่มีค่าอยู่เสมอ ตอนนี้คุณมีเอ็นจิ้นการสืบค้นข้อมูลทั่วไปของเอ็นจิ้นการสืบค้นที่อยู่ด้านหน้า มันฉลาดมาก คุณสามารถทำให้มันตอบสนองกับคุณได้ แต่คุณยังสามารถเชื่อมต่อกับพร็อกซี ซึ่งเป็นความก้าวหน้าที่ฐานข้อมูล Langchain และเวกเตอร์นำมา สิ่งใหม่ๆ ที่ซ้อนทับข้อมูลและโมเดลภาษาขนาดใหญ่กำลังเกิดขึ้นทุกที่ และทุกคนก็อยากจะทำ แล้วแฟรงก์กับฉันจะช่วยคุณทำอย่างนั้น

02 ซอฟต์แวร์ 3.0: สร้างแอปพลิเคชัน AI เพื่อแก้ปัญหาเฉพาะ

เจ้าภาพ:

เมื่อนักลงทุนมองไปที่การเปลี่ยนแปลงนี้ ซอฟต์แวร์ 1.0 เป็นรหัสเชิงกำหนดที่เขียนขึ้นโดยวิศวกรตามหน้าที่ ส่วนซอฟต์แวร์ 2.0 กำลังปรับโครงข่ายประสาทเทียมให้เหมาะสมด้วยข้อมูลการฝึกอบรมที่มีป้ายกำกับที่รวบรวมอย่างระมัดระวัง

พวกคุณกำลังช่วยให้ผู้คนใช้ประโยชน์จากซอฟต์แวร์ 3.0 ซึ่งเป็นชุดของโมเดลพื้นฐานที่มีความสามารถอย่างเหลือเชื่อในตัวเอง แต่พวกเขายังต้องทำงานกับข้อมูลองค์กรและชุดข้อมูลที่กำหนดเอง มันถูกกว่ามากที่จะพัฒนาแอพเหล่านั้นเทียบกับพวกเขา

**คำถามหนึ่งสำหรับผู้ที่มองอย่างลึกซึ้งในด้านนี้ โมเดลพื้นฐานนั้นกว้างมาก มันสามารถทำทุกอย่างได้หรือไม่? เหตุใดเราจึงต้องการโมเดลที่กำหนดเองและข้อมูลองค์กร **

แฟรงค์:

ดังนั้นเราจึงมีแบบจำลองทั่วๆ ไปที่สามารถเขียนบทกวี ทำบทสรุปของ The Great Gatsby ทำโจทย์เลขได้

แต่ในธุรกิจ เราไม่ต้องการสิ่งเหล่านี้ สิ่งที่เราต้องการคือ Copilot เพื่อรับข้อมูลเชิงลึกที่ไม่ธรรมดาในชุดข้อมูลที่แคบแต่ซับซ้อนมาก

เราต้องเข้าใจรูปแบบธุรกิจและการเปลี่ยนแปลงทางธุรกิจ สิ่งนี้ไม่จำเป็นต้องมีราคาแพงในการคำนวณ เพราะแบบจำลองไม่จำเป็นต้องได้รับการฝึกฝนเกี่ยวกับสิ่งต่างๆ นับล้าน แต่จำเป็นต้องรู้เพียงหัวข้อเล็กๆ น้อยๆ เท่านั้นแต่เป็นหัวข้อที่ลึกซึ้ง

ตัวอย่างเช่น. ฉันอยู่ในคณะกรรมการของ Instacart และเป็นหนึ่งในลูกค้ารายใหญ่ของเรา เช่น DoorDash และธุรกิจอื่นๆ ทั้งหมดที่มีปัญหาคือพวกเขาเพิ่มการใช้จ่ายด้านการตลาดอย่างต่อเนื่อง มีลูกค้าเข้ามา ลูกค้าสั่งซื้อ และลูกค้าไม่ ไม่กลับมาหรือกลับมาใน 90 วัน ซึ่งไม่แน่นอนมาก พวกเขาเรียกสิ่งนี้ว่าปั่นป่วน

นี่คือการวิเคราะห์ปัญหาที่ซับซ้อนเนื่องจากอาจมีสาเหตุหลายประการที่ทำให้ลูกค้าไม่กลับมา ผู้คนต้องการหาคำตอบสำหรับคำถามเหล่านี้ และคำตอบนั้นอยู่ในข้อมูล ไม่ใช่ในอินเทอร์เน็ตทั่วไป และสามารถพบได้ผ่านปัญญาประดิษฐ์ นี่คือตัวอย่างที่สามารถสร้างมูลค่ามหาศาลได้

เจ้าภาพ:

โมเดลเหล่านี้ควรโต้ตอบกับข้อมูลองค์กรอย่างไร

หวงเหรินซุน:

กลยุทธ์และผลิตภัณฑ์ของเราคือโมเดลที่ผ่านการฝึกอบรมล่วงหน้าที่ทันสมัยในทุกขนาด และบางครั้งคุณจำเป็นต้องสร้างโมเดลที่ผ่านการฝึกอบรมล่วงหน้าขนาดใหญ่มากเพื่อให้สามารถผลิตเพื่อสอนโมเดลขนาดเล็กได้

และรุ่นที่เล็กกว่าสามารถทำงานบนอุปกรณ์เกือบทุกชนิด โดยอาจมีเวลาแฝงที่ต่ำมาก อย่างไรก็ตาม ความสามารถในการทำให้เป็นภาพรวมนั้นไม่สูงนัก และความสามารถแบบ Zero shot (การเรียนรู้จากตัวอย่างเป็นศูนย์) อาจถูกจำกัดมากกว่า

ดังนั้นคุณอาจมีโมเดลหลายประเภทและหลายขนาด แต่ในแต่ละกรณี คุณต้องทำการปรับแต่งอย่างละเอียดภายใต้การดูแล คุณต้องทำ RLHF (การเรียนรู้การเสริมกำลังด้วยคำติชมจากมนุษย์) เพื่อให้สอดคล้องกับเป้าหมายและหลักการของคุณ คุณจำเป็นต้อง เพื่อเสริมด้วยบางอย่าง เช่น ฐานข้อมูลเวกเตอร์ เพื่อให้ทุกอย่างมารวมกันบนแพลตฟอร์มเดียว เรามีทักษะ ความรู้ และแพลตฟอร์มพื้นฐานที่จะช่วยให้พวกเขาสร้าง AI ของตนเอง แล้วเชื่อมต่อกับข้อมูลใน Snowflake

ตอนนี้ **ไม่ควรเป็นเป้าหมายของลูกค้าองค์กรทุกรายที่จะคิดว่าฉันจะสร้างโมเดลภาษาขนาดใหญ่ได้อย่างไร เป้าหมายของพวกเขาควรเป็น ฉันจะสร้างแอปพลิเคชัน AI เพื่อแก้ปัญหาเฉพาะได้อย่างไร ** แอพนั้นอาจใช้เวลา 17 คำถามในการทำเพื่อให้ได้คำตอบที่ถูกต้อง จากนั้นคุณอาจพูดว่า ฉันต้องการเขียนโปรแกรม อาจเป็นโปรแกรม SQL อาจเป็นโปรแกรม Python เพื่อที่ฉันจะได้ทำสิ่งนี้โดยอัตโนมัติในอนาคต

**คุณยังคงต้องแนะนำปัญญาประดิษฐ์นี้เพื่อให้เขาสามารถให้คำตอบที่ถูกต้องแก่คุณได้ในที่สุด **แต่หลังจากนั้น คุณสามารถสร้างแอปพลิเคชันที่ทำงานได้ตลอด 24 ชั่วโมงทุกวันในฐานะตัวแทน (Agent) มองหาสถานการณ์ที่เกี่ยวข้องและรายงานให้คุณทราบล่วงหน้า ดังนั้น งานของเราคือช่วยลูกค้าสร้างแอปพลิเคชันปัญญาประดิษฐ์เหล่านี้ ซึ่งมีความเฉพาะเจาะจงและปรับแต่งได้ด้วยรั้วกั้นนิรภัย

ในท้ายที่สุด เราทุกคนจะเป็นผู้ผลิตที่ชาญฉลาดในอนาคต แน่นอนว่าต้องจ้างพนักงาน แต่เรากำลังจะสร้างตัวแทนจำนวนมากที่สามารถสร้างได้ด้วยบางอย่าง เช่น Lang Chain, โมเดลที่เชื่อมต่อ, ฐานความรู้, API อื่นๆ ปรับใช้ในระบบคลาวด์และเชื่อมต่อกับข้อมูล Snowflake ทั้งหมด

คุณสามารถใช้งาน AI เหล่านี้ตามขนาดและปรับปรุง AI เหล่านี้ได้อย่างต่อเนื่อง ดังนั้น เราแต่ละคนจะสร้าง AI บริหารโรงงาน AI เราจะวางโครงสร้างพื้นฐานบนฐานข้อมูลของ Snowflake ซึ่งลูกค้าสามารถใช้ข้อมูล ฝึกอบรมและพัฒนาโมเดลของตน ใช้งาน AI ดังนั้น Snowflake จะเป็นที่เก็บข้อมูลและธนาคารของคุณ

ด้วยขุมทองแห่งข้อมูลของพวกเขาเอง โรงงานทั้งหมดจะบริหารโรงงาน AI บน Snowflake นี่คือเป้าหมาย

03 แม้ว่า “Nuclear Bomb” จะมีราคาแพง แต่การใช้โมเดลโดยตรงจะเทียบเท่ากับ “ส่วนลด 10%”

หวงเหรินซุน:

เราได้ก่อตั้งโรงงาน AI ห้าแห่งใน NVIDIA ซึ่งสี่แห่งเป็นซูเปอร์คอมพิวเตอร์ 500 อันดับแรกของโลก และอีกแห่งอยู่ในสายการผลิต เราใช้ซูเปอร์คอมพิวเตอร์เหล่านี้เพื่อทำแบบจำลองก่อนการฝึกอบรม ดังนั้น เมื่อคุณใช้บริการพื้นฐานของ Nemo AI ใน Snowflake คุณจะได้รับโมเดลที่ได้รับการฝึกฝนล่วงหน้าอันล้ำสมัยซึ่งมีราคาหลายหมื่นล้านดอลลาร์ ไม่ต้องพูดถึง R&D ดังนั้นจึงได้รับการฝึกฝนล่วงหน้า

จากนั้นมีรุ่นอื่น ๆ มากมายรอบ ๆ ตัวที่ใช้สำหรับการปรับแต่งแบบละเอียด RLHF โมเดลทั้งหมดนี้มีราคาแพงกว่ามากในการฝึกอบรม

ดังนั้น ตอนนี้ คุณได้ปรับโมเดลที่ฝึกไว้ล่วงหน้าให้เข้ากับคุณลักษณะของคุณ เข้ากับแนวป้องกันของคุณ ปรับให้เหมาะสมกับประเภทของทักษะหรือคุณลักษณะที่คุณต้องการให้มี เสริมด้วยข้อมูลของคุณ ดังนั้นวิธีนี้จะเป็นวิธีที่คุ้มค่ากว่า

ที่สำคัญภายในวันไม่ใช่เดือน คุณสามารถพัฒนาแอปพลิเคชัน AI ที่เชื่อมต่อกับข้อมูลของคุณได้ที่ Snowflake

คุณน่าจะสร้างแอปพลิเคชัน AI ได้อย่างรวดเร็วในอนาคต

เพราะเรากำลังเห็นมันเกิดขึ้นแบบเรียลไทม์ในขณะนี้ มีแอปที่ให้คุณแชทกับข้อมูลได้แล้ว เช่น ChatPDF

เจ้าภาพ:

**ใช่ ในยุคซอฟต์แวร์ 3.0 95% ของค่าใช้จ่ายในการฝึกอบรมครอบคลุมโดยผู้อื่นแล้ว **

หวงเหรินซุน:

(หัวเราะ) ใช่ ลด 95% ฉันไม่สามารถจินตนาการถึงข้อเสนอที่ดีกว่านี้ได้

เจ้าภาพ:

นั่นคือแรงจูงใจที่แท้จริง และในฐานะนักลงทุน ฉันเคยเห็นบริษัทอายุน้อยในด้านการวิเคราะห์ ระบบอัตโนมัติ กฎหมาย ฯลฯ ซึ่งแอปพลิเคชันมีมูลค่าทางธุรกิจที่แท้จริงภายในหกเดือนหรือน้อยกว่านั้น ส่วนหนึ่งคือพวกเขาเริ่มต้นด้วยโมเดลที่ได้รับการฝึกฝนมาล่วงหน้า ซึ่งเป็นโอกาสที่ยิ่งใหญ่สำหรับธุรกิจ

หวงเหรินซุน:

ทุกบริษัทจะมีแอปพลิเคชัน AI หลายร้อยหรืออาจถึง 1,000 แอปพลิเคชันที่เชื่อมต่อกับข้อมูลทุกประเภทในบริษัทของคุณ ดังนั้นพวกเราทุกคนต้องเก่งในการสร้างสิ่งเหล่านี้

04 มันเคยเป็นธุรกิจที่กำลังมองหาข้อมูล ตอนนี้มันเป็นธุรกิจที่กำลังมองหาข้อมูล

เจ้าภาพ:

คำถามหนึ่งที่ฉันมักจะได้ยินจากผู้เล่นในธุรกิจขนาดใหญ่คือ เราต้องลงทุนใน AI เราต้องการสแต็กใหม่หรือไม่ เราควรคิดอย่างไรเกี่ยวกับการเชื่อมต่อกับ data stack ที่มีอยู่ของเรา?

แฟรงค์:

ฉันคิดว่ามันกำลังพัฒนา โมเดลจะค่อยๆ ง่ายขึ้น ปลอดภัยขึ้น และมีการจัดการที่ดีขึ้น ดังนั้นเราจึงไม่มีมุมมองที่ชัดเจนว่านี่คือสถาปัตยกรรมอ้างอิงที่ทุกคนจะใช้? บางส่วนจะมีการตั้งค่าสำหรับบริการส่วนกลางบางอย่าง Microsoft มีเวอร์ชันของ AI ใน Azure และลูกค้าจำนวนมากกำลังโต้ตอบกับ Azure

**แต่เราไม่รู้ว่ารุ่นใดจะครองตลาด เราคิดว่าตลาดจะพิจารณาจากปัจจัยต่างๆ เช่น ใช้งานง่ายและราคา **นี่เป็นเพียงจุดเริ่มต้น ไม่ใช่สถานะสุดท้าย

ภาคความปลอดภัยจะมีส่วนร่วมและปัญหาลิขสิทธิ์จะได้รับการปฏิรูป ตอนนี้เราหลงใหลในเทคโนโลยี ปัญหาที่แท้จริงจะได้รับการจัดการในเวลาเดียวกัน

หวงเหรินซุน:

ขณะนี้เรากำลังประสบกับการเปลี่ยนแปลงแพลตฟอร์มคอมพิวเตอร์พื้นฐานครั้งแรกในรอบ 60 ปี หากคุณเพิ่งอ่านข่าวประชาสัมพันธ์ IBM 360 คุณเคยได้ยินเกี่ยวกับหน่วยประมวลผลกลาง, ระบบย่อย IO, ตัวควบคุม DMA, หน่วยความจำเสมือน, การทำงานหลายอย่างพร้อมกัน, การคำนวณที่ปรับขนาดได้ไปข้างหน้าและย้อนกลับที่เข้ากันได้ และแนวคิดเหล่านี้ จริงๆ แล้วมันคือทั้งหมดในปี 1964 และสิ่งเหล่านี้ แนวคิดช่วยให้เราปรับขนาด CPU ได้ในช่วงหกทศวรรษที่ผ่านมา

การขยายตัวดังกล่าวเกิดขึ้นเป็นเวลา 60 ปี แต่ได้สิ้นสุดลงแล้ว ตอนนี้ทุกคนเข้าใจว่าเราไม่สามารถปรับขนาด CPU ได้อีกต่อไป และทันใดนั้น ซอฟต์แวร์ก็เปลี่ยนไป วิธีเขียนซอฟต์แวร์ วิธีการทำงานของซอฟต์แวร์ และสิ่งที่ซอฟต์แวร์สามารถทำได้นั้นแตกต่างจากที่เคยเป็นมาก เราเรียกซอฟต์แวร์รุ่นก่อนหน้าว่า 2.0 ตอนนี้เป็นซอฟต์แวร์ 3.0 แล้ว

ความจริงก็คือ **การคำนวณได้เปลี่ยนไปโดยพื้นฐานแล้ว เราเห็นการเปลี่ยนแปลงพื้นฐานสองอย่างเกิดขึ้นพร้อมกัน ซึ่งเป็นสาเหตุที่ทำให้สิ่งต่างๆ สั่นไหวอย่างรุนแรงในขณะนี้ **

สิ่งหนึ่งคือคุณไม่สามารถซื้อ CPU ได้อีกต่อไป หากคุณซื้อซีพียูอีกจำนวนมากในปีหน้า ทรูพุตการประมวลผลของคุณจะไม่เพิ่มขึ้น เนื่องจากจุดสิ้นสุดของการปรับขนาด CPU มาถึงแล้ว คุณจะจ่ายมากขึ้นและคุณจะไม่ได้รับปริมาณงานอีกต่อไป ดังนั้น คำตอบคือคุณต้องไปที่การเร่งความเร็ว (Nvidia Accelerated Computing Platform) ผู้ชนะรางวัล Turing Award พูดคุยเกี่ยวกับการเร่งความเร็ว Nvidia เป็นผู้บุกเบิกการเร่งความเร็ว และการประมวลผลแบบเร่งความเร็วอยู่ที่นี่แล้ว

ในทางกลับกัน ระบบปฏิบัติการทั้งหมดของคอมพิวเตอร์มีการเปลี่ยนแปลงอย่างมาก เรามีเลเยอร์ที่เรียกว่า NVIDIA AI Enterprise และตอนนี้การประมวลผลข้อมูล การฝึกอบรม และการปรับใช้เหตุผลในนั้นได้ถูกรวมเข้าด้วยกันหรือถูกรวมเข้ากับ Snowflake ดังนั้น ตั้งแต่เริ่มต้นการประมวลผลข้อมูลไปจนถึงการปรับใช้โมเดลขนาดใหญ่ขั้นสุดท้าย เร่งเครื่องคำนวณแล้ว เราจะเพิ่มพลังให้ Snowflake ซึ่งคุณจะทำได้มากขึ้น และคุณจะทำได้มากขึ้นโดยใช้เวลาน้อยลง

หากคุณไปที่คลาวด์ใด ๆ คุณจะเห็นว่า NVIDIA GPUs เป็นเอนทิตีการประมวลผลที่แพงที่สุดในนั้น แต่ถ้าคุณใส่ปริมาณงานลงไป คุณจะเห็นว่าเราทำงานเร็วมาก เหมือนได้รับส่วนลด 95% เราเป็นองค์กรด้านคอมพิวเตอร์ที่แพงที่สุด แต่เราเป็น TCO ที่คุ้มค่าที่สุด

ดังนั้น หากงานของคุณคือการเรียกใช้เวิร์กโหลด อาจฝึกโมเดลภาษาขนาดใหญ่ หรือปรับแต่งโมเดลภาษาขนาดใหญ่ ถ้าคุณต้องการทำอย่างนั้น ให้เร่งความเร็วอย่างแน่นอน

** เร่งความเร็วทุกเวิร์กโหลด นี่คือการปรับรูปร่างของสแตกทั้งหมด **โปรเซสเซอร์เปลี่ยนไปเพราะเหตุนี้ ระบบปฏิบัติการจึงเปลี่ยนไป โมเดลภาษาขนาดใหญ่จึงแตกต่าง วิธีที่คุณเขียนแอปพลิเคชัน AI ก็แตกต่างออกไป

ในอนาคตเราทุกคนจะเขียนใบสมัคร เราทุกคนต้องเชื่อมต่อบริบทของเรากับคำสั่ง Python สองสามคำสั่งกับโมเดลภาษาขนาดใหญ่และฐานข้อมูลของเราเองหรือฐานข้อมูลของบริษัท และพัฒนาแอปพลิเคชันของเราเอง ทุกคนจะเป็นนักพัฒนาแอป

เจ้าภาพ:

แต่สิ่งเดียวกันก็คือ มันยังคงเป็นข้อมูลของคุณ คุณยังคงต้องปรับแต่งอย่างละเอียด

แฟรงค์:

ปรากฎว่าเราทุกคนรู้สึกว่าเร็วขึ้นมีราคาแพงกว่าเสมอ อันที่จริงแล้ว เร็วกว่าถูกกว่า ซึ่งสวนทางกับสัญชาตญาณ ดังนั้น บางครั้งผู้คนต้องการลดอุปทาน โดยคิดว่ามันถูกกว่า และกลายเป็นว่ามีราคาแพงกว่า

สิ่งที่ขัดแย้งกับข้อที่แล้วก็คือ ** เคยเป็น data go to work (data go to work) แต่ตอนนี้ ธุรกิจกำลังมองหา data (work go to data) ** ในช่วงหกสิบปีที่ผ่านมาหรือมากกว่านั้น เราปล่อยให้ข้อมูลไปสู่ธุรกิจ ซึ่งส่งผลให้เกิดไซโลข้อมูลขนาดใหญ่ และถ้าคุณต้องการมีโรงงาน AI จะเป็นการยากมากที่จะใช้วิธีการก่อนหน้านี้ เราต้องนำการคำนวณไปยังที่ที่ข้อมูลอยู่ ผมคิดว่าสิ่งที่เรากำลังทำอยู่นี้มาถูกทางแล้ว

05 วิธีที่องค์กรได้รับมูลค่าสูงสุดและรวดเร็วที่สุด

แฟรงค์:

การเป็นผู้ที่เร็วที่สุดและได้รับคุณค่ามากที่สุดนั้นเป็นสองปัญหาที่แตกต่างกันมาก

หากเป็นวิธีที่เร็วที่สุด **คุณจะเห็นว่าวิธีการค้นหาที่ปรับปรุงโดย AI นั้นออนไลน์ทุกที่ในฐานข้อมูล เพราะนี่เป็นฟังก์ชันที่ง่ายที่สุดในการเพิ่ม **เป็นเรื่องเหลือเชื่อที่แม้แต่คนที่ไม่รู้หนังสือก็สามารถรับข้อมูลอันมีค่าจากข้อมูลได้ในขณะนี้ ซึ่งเป็นการโต้ตอบที่เป็นประชาธิปไตยขั้นสูงสุด ฟังก์ชันการค้นหาได้รับการปรับปรุงอย่างมาก คุณเพียงแค่ถามคำถามกับอินเทอร์เฟซหลัก และพวกเขาก็สามารถนำคำถามเหล่านี้ไปใช้กับข้อมูลสำหรับการสืบค้นของตนเองได้ นั่นคือผลไม้แขวนต่ำ ง่ายที่สุด เราคิดว่าเป็นขั้นตอนที่หนึ่ง

ต่อไป เราเริ่มให้ความสนใจกับปัญหาที่แท้จริง ซึ่งเป็นข้อมูลองค์กรที่เป็นกรรมสิทธิ์ โครงสร้างแบบผสม ไม่มีโครงสร้าง ทั้งหมดนี้ เราจะระดมข้อมูลนี้ได้อย่างไร **

ฉันได้กล่าวถึงอัตราการเปลี่ยนใจและปัญหาการจัดการห่วงโซ่อุปทานที่บริษัท C เผชิญแล้ว เมื่อซัพพลายเชนมีความซับซ้อนเป็นพิเศษ หากมีเหตุการณ์เกิดขึ้น เราจะปรับซัพพลายเชนใหม่เพื่อให้ทำงานได้อย่างไร ตอนนี้ฉันควรทำอะไรดี ห่วงโซ่อุปทานประกอบด้วยหน่วยงานต่างๆ มากมาย ไม่ใช่องค์กรเดียว ในอดีต นี่เป็นปัญหาที่ไม่เคยได้รับการแก้ไขด้วยคอมพิวเตอร์ การจัดการซัพพลายเชนไม่เคยเป็นแพลตฟอร์มมาก่อน มันค่อนข้างจะเป็นอีเมล สเปรดชีต โดยมีข้อยกเว้นเล็กน้อยเล็กน้อย นี่จึงน่าตื่นเต้นอย่างยิ่ง

หรือเราสามารถคำนวณการลงทุนใหม่ในศูนย์บริการทางโทรศัพท์ขนาดใหญ่และปรับราคาขายปลีกให้เหมาะสม อย่างที่บอก นี่คือศักยภาพที่แท้จริงของการกำหนดรูปแบบธุรกิจใหม่ที่ CEO ของบริษัทขนาดใหญ่ตั้งตารอ **

06 คำแนะนำสำหรับองค์กร:

หวงเหรินซุน:

**ฉันจะถามตัวเอง ข้อแรก ฐานข้อมูลเดียวที่มีค่าที่สุดของฉันคืออะไร อย่างที่สอง ฉันจะถามตัวเองว่า ถ้าฉันมีคนเก่งๆ ฉลาดสุดๆ และข้อมูลทั้งหมดในองค์กรผ่านปัญญาอัจฉริยะแบบนั้น ฉันจะถามคนๆ นั้นว่าอะไร **

ซึ่งแตกต่างกันไปตามบริษัทของแต่ละคน ฐานข้อมูลลูกค้าบริษัทของ Frank มีความสำคัญมากเพราะเขามีลูกค้ามากมาย และบริษัทของฉันเอง ฉันไม่มีลูกค้ามากขนาดนั้น แต่สำหรับบริษัทของฉัน ซัพพลายเชนของฉันซับซ้อนมาก และฐานข้อมูลการออกแบบของฉันก็ซับซ้อนมาก

**สำหรับ NVIDIA เราไม่สามารถสร้าง GPU ได้หากไม่มีปัญญาประดิษฐ์ เนื่องจากไม่มีวิศวกรของเราคนใดสามารถทำซ้ำและสำรวจให้เราได้มากมายเหมือน AI ** ดังนั้น เมื่อเราเสนอปัญญาประดิษฐ์ แอปพลิเคชันแรกอยู่ในบริษัทของเราเอง ยิ่งไปกว่านั้น เป็นไปไม่ได้เลยที่ Hopper (ผลิตภัณฑ์ซูเปอร์คอมพิวเตอร์ NVIDIA) จะได้รับการออกแบบโดยปราศจากปัญญาประดิษฐ์

เราจะใช้ AI ของเรากับข้อมูลของเราด้วย ฐานข้อมูลข้อบกพร่องของเราเป็นกรณีการใช้งานที่สมบูรณ์แบบสำหรับสิ่งนี้ หากคุณดูจำนวนโค้ดที่ NVIDIA AI เรามีแพ็คเกจซอฟต์แวร์หลายร้อยชุดที่รวมเข้าด้วยกันแล้วทำให้แอปพลิเคชันทำงานได้ บางสิ่งที่เรากำลังทำอยู่ตอนนี้คือการใช้ AI เพื่อหาวิธีแพตช์การรักษาความปลอดภัย วิธีที่ดีที่สุดในการบำรุงรักษา เพื่อให้เราไม่ต้องเข้าไปยุ่งกับชั้นแอปพลิเคชันด้านบนทั้งหมดในขณะที่สามารถทำงานร่วมกันแบบย้อนกลับได้ .

นี่คือสิ่งที่ AI สามารถให้คำตอบแก่คุณได้ เราสามารถใช้โมเดลภาษาขนาดใหญ่เพื่อตอบคำถามเหล่านี้ หาคำตอบให้เรา หรือเปิดเผยบางอย่างให้เราทราบ จากนั้นวิศวกรจะสามารถแก้ไขได้ หรือ AI สามารถแนะนำวิธีการซ่อมแซมได้ และวิศวกรที่เป็นมนุษย์สามารถยืนยันได้ว่าเป็นวิธีการซ่อมแซมที่ดีหรือไม่

ฉันไม่คิดว่าทุกคนจะตระหนักว่าความเฉลียวฉลาด ข้อมูลเชิงลึก และอิทธิพลซ่อนอยู่ในข้อมูลที่พวกเขาประมวลผลทุกวันมากน้อยเพียงใด **นั่นคือเหตุผลที่เราทุกคนจำเป็นต้องมีส่วนร่วมและช่วยกันสร้างอนาคตนี้

ตอนนี้ เป็นครั้งแรกที่ข้อมูลที่คุณจัดเก็บไว้ในคลังข้อมูลสามารถเชื่อมต่อกับโรงงานปัญญาประดิษฐ์ได้ ** คุณจะสามารถผลิตข่าวกรองข้อมูล ซึ่งเป็นสินค้าที่มีค่าที่สุดในโลก คุณกำลังนั่งอยู่บนเหมืองทองคำที่มีทรัพยากรธรรมชาติ ซึ่งเป็นข้อมูลที่เป็นกรรมสิทธิ์ของบริษัทคุณ และตอนนี้เรากำลังเชื่อมโยงมันเข้ากับเครื่องมือปัญญาประดิษฐ์ และอีกด้านก็สร้างข่าวกรองข้อมูลโดยตรงทุกวัน ด้วยข่าวกรองจำนวนมหาศาลที่หลั่งไหลเข้ามาอย่างเหลือเชื่อ เข้าจากปลายอีกด้านหนึ่งแม้ในขณะที่คุณหลับก็ยังไหลออกมา มันเป็นสิ่งที่ดีที่สุดที่เคยมีมา

news.article.disclaimer
แสดงความคิดเห็น
0/400
ไม่มีความคิดเห็น