Huang Renxun, mặc áo khoác da, đứng trên ván lướt sóng màu xanh và tạo một vài tư thế lướt sóng.
Đây không phải là VidCon, "Lễ hội Internet đỏ" ở Hoa Kỳ, mà là một cảnh tại hội nghị nhà phát triển của Snowflake, một nền tảng dữ liệu nổi tiếng ở Hoa Kỳ.
Vào ngày 26 tháng 6 theo giờ địa phương, người sáng lập Nvidia, Huang Renxun và Giám đốc điều hành của Snowflake, Frank Slootman đã thảo luận về "cách mang AI tổng quát đến người dùng doanh nghiệp". Người dẫn chương trình là Greylock GP trước đây, hiện là người sáng lập công ty đầu tư Conviction.
Tại buổi gặp mặt, so với sự trưởng thành và thận trọng trong quản lý chuyên nghiệp của “người dẫn chương trình” Frank, “Bố già mặc đồ da” vẫn gây bất ngờ như mọi khi, không chỉ nói rằng sự hợp tác giữa hai bên là “We are Lovers, not Fighters” ( We are Lovers, not Fighters), Người ta còn nói đùa rằng mô hình được đào tạo cung cấp cho Snowflake tương đương với việc "giảm giá 10%" cho khách hàng.
Cùng ngày, Nvidia và Snowflake cùng tung ra một động thái lớn khác: công ty chip số 1 thế giới hợp tác với nền tảng dữ liệu đám mây phổ biến nhất để khởi động một sự hợp tác chung. **Người dùng Snowflake có thể trực tiếp sử dụng mô hình AI được đào tạo trước của Nvidia để phân tích dữ liệu của công ty họ trên nền tảng đám mây mà không cần rời khỏi nền tảng và phát triển "ứng dụng AI" cho dữ liệu của riêng họ. **
"Những thay đổi lớn hiện nay đến từ dữ liệu + thuật toán AI + công cụ tính toán. Thông qua sự hợp tác của chúng tôi, chúng tôi có thể mang ba điểm này lại với nhau.", Huang Renxun cho biết.
Khả năng giao tiếp:
Mô hình ngôn ngữ lớn + cơ sở dữ liệu đặc thù doanh nghiệp = ứng dụng AI cho bài toán đặc thù;
Trước đây là Data going to Work, nhưng bây giờ là Work going to Data, cho phép máy tính đi đến nơi có dữ liệu, tránh đảo dữ liệu;
Mô hình đào tạo trước do Nvidia cung cấp đã được đào tạo trong nhà máy AI của Nvidia với chi phí hàng chục triệu đô la, vì vậy việc gọi công cụ điện toán trên Snowflake đã được "chiết khấu 0,5%";
Trong thời đại phần mềm 3.0, dựa trên mô hình và cơ sở dữ liệu, doanh nghiệp có thể xây dựng ứng dụng độc quyền của mình trong vòng vài ngày;
Trong tương lai, doanh nghiệp có thể sản xuất và vận hành nhiều tác tử thông minh;
Đối với doanh nghiệp, vấn đề thực sự là làm thế nào để huy động dữ liệu hỗn hợp có cấu trúc và phi cấu trúc. Điều này có thể dẫn đến việc cập nhật mô hình kinh doanh.
Sau đây là nội dung chính của cuộc đối thoại giữa hai bên do Geek Park biên tập:
01 Nói về sự hợp tác: mang công cụ tính toán tốt nhất đến với dữ liệu có giá trị nhất
Thẳng thắn：
NVIDIA hiện đóng một vai trò quan trọng trong lịch sử. Đối với chúng tôi, có thể mang dữ liệu và mối quan hệ đến các doanh nghiệp lớn. Chúng tôi cần kích hoạt công nghệ này và toàn bộ ngăn xếp dịch vụ để sử dụng nó một cách hiệu quả. Tôi không muốn mô tả nó là "một trận đấu được tạo ra từ thiên đường", nhưng đối với một giáo dân, đó là một cơ hội tốt để bước vào cánh cửa cơ hội này.
Hoàng Nhân Tốn:
Chúng tôi là người yêu, không phải đối thủ. **Chúng tôi muốn mang công cụ điện toán tốt nhất thế giới đến với dữ liệu quý giá nhất thế giới. Nhìn lại, tôi đã làm việc trong một thời gian dài, nhưng tôi không già như vậy. Frank, bạn lớn tuổi hơn (cười). **
Gần đây, dữ liệu rất lớn và dữ liệu rất quý giá vì những lý do nổi tiếng. Nó phải được an toàn. Di chuyển dữ liệu là khó khăn và lực hấp dẫn của dữ liệu là có thật. Vì vậy, việc đưa công cụ tính toán của chúng tôi vào Snowflake dễ dàng hơn nhiều đối với chúng tôi. Quan hệ đối tác của chúng tôi không chỉ nhằm tăng tốc Snowflake, mà còn là đưa AI vào Snowflake. **
**Cốt lõi là sự kết hợp giữa dữ liệu + thuật toán trí tuệ nhân tạo + công cụ tính toán, mối quan hệ đối tác của chúng tôi kết hợp cả ba thứ lại với nhau. **Dữ liệu cực kỳ giá trị, trí tuệ nhân tạo tuyệt vời không thể tin được, công cụ tính toán tuyệt vời không thể tin được.
Những gì chúng ta có thể làm cùng nhau là giúp khách hàng lấy dữ liệu độc quyền của họ và sử dụng dữ liệu đó để viết các ứng dụng AI. Bạn biết đấy, bước đột phá lớn ở đây là lần đầu tiên bạn có thể phát triển một mô hình ngôn ngữ lớn. Bạn đặt nó trước dữ liệu của mình, sau đó bạn nói chuyện với dữ liệu của mình giống như bạn nói chuyện với con người và dữ liệu đó được bổ sung vào một mô hình ngôn ngữ lớn.
Sự kết hợp của một mô hình ngôn ngữ lớn cộng với cơ sở tri thức tương đương với một ứng dụng AI. ** Cái này đơn giản, một mô hình ngôn ngữ lớn biến bất kỳ cơ sở tri thức dữ liệu nào thành một ứng dụng. **
Hãy nghĩ về tất cả những ứng dụng tuyệt vời mà mọi người đã viết. Về cốt lõi, luôn có một số dữ liệu có giá trị. Bây giờ bạn có một công cụ truy vấn chung của công cụ truy vấn ở phía trước, nó cực kỳ thông minh, bạn có thể khiến nó phản hồi cho bạn, nhưng bạn cũng có thể kết nối nó với một proxy, đó là bước đột phá mà Langchain và cơ sở dữ liệu vector mang lại. Công cụ đột phá bao phủ dữ liệu và các mô hình ngôn ngữ lớn đang diễn ra ở khắp mọi nơi và mọi người đều muốn làm điều đó. Và tôi và Frank sẽ giúp bạn làm điều đó.
02 Phần mềm 3.0: Xây dựng ứng dụng AI để giải quyết một vấn đề cụ thể
chủ nhà:
Khi một nhà đầu tư xem xét sự thay đổi này, phần mềm 1.0 là mã rất xác định được viết bởi các kỹ sư theo chức năng; phần mềm 2.0 đang tối ưu hóa mạng thần kinh với dữ liệu đào tạo được dán nhãn được thu thập cẩn thận.
Các bạn đang giúp mọi người tận dụng Phần mềm 3.0, một tập hợp các mô hình cơ bản có khả năng độc lập đáng kinh ngạc, nhưng họ vẫn cần phải làm việc với dữ liệu doanh nghiệp và tập dữ liệu tùy chỉnh. Sẽ rẻ hơn nhiều nếu chỉ phát triển những ứng dụng đó để chống lại họ.
**Một câu hỏi cho những ai tìm hiểu sâu về lĩnh vực này, mô hình cơ bản rất chung chung, nó có làm được mọi thứ không? Tại sao chúng ta cần các mô hình tùy chỉnh và dữ liệu doanh nghiệp? **
Thẳng thắn：
Vì vậy, chúng tôi có những mô hình rất tổng quát có thể làm thơ, làm tóm tắt về The Great Gatsby, làm các bài toán.
Nhưng trong kinh doanh, chúng ta không cần những thứ này. Cái chúng ta cần là một Copilot để có được những hiểu biết phi thường về một tập hợp dữ liệu rất hẹp nhưng rất phức tạp.
Chúng ta cần hiểu các mô hình kinh doanh và động lực kinh doanh. Điều này không cần quá tốn kém về mặt tính toán, bởi vì một mô hình không cần phải được đào tạo về hàng triệu thứ, mà chỉ cần biết rất ít nhưng chủ đề sâu sắc.
Ví dụ. Tôi là thành viên hội đồng quản trị của Instacart và là một trong những khách hàng lớn của chúng tôi, như DoorDash và tất cả các doanh nghiệp khác đang gặp vấn đề là họ tiếp tục tăng chi tiêu tiếp thị, khách hàng đến, khách hàng đặt hàng và khách hàng cũng không không quay lại hoặc quay lại sau 90 ngày, điều này rất không ổn định. Họ gọi đây là khuấy động.
Đây là phân tích các vấn đề phức tạp vì có thể có nhiều lý do khiến khách hàng không quay lại. Mọi người muốn tìm câu trả lời cho những câu hỏi này và nó nằm trong dữ liệu chứ không phải trên Internet nói chung và nó có thể được tìm thấy thông qua trí tuệ nhân tạo. Đây là một ví dụ về nơi có thể tạo ra giá trị lớn.
chủ nhà:
Các mô hình này nên tương tác với dữ liệu doanh nghiệp như thế nào?
Hoàng Nhân Tốn:
Chiến lược và sản phẩm của chúng tôi là các mô hình được đào tạo trước tiên tiến nhất ở mọi quy mô và đôi khi bạn cần tạo một mô hình được đào tạo trước rất lớn để có thể sản xuất mô hình này để dạy các mô hình nhỏ hơn.
Và các mô hình nhỏ hơn có thể chạy trên hầu hết mọi thiết bị, có lẽ với độ trễ rất thấp. Tuy nhiên, khả năng khái quát hóa của nó không cao và khả năng zero shot (zero sample learning) có thể bị hạn chế hơn.
Vì vậy, bạn có thể có một số mô hình với các loại và kích cỡ khác nhau, nhưng trong mỗi trường hợp, bạn phải tinh chỉnh có giám sát, bạn phải thực hiện RLHF (học tăng cường với phản hồi của con người) để nó phù hợp với mục tiêu và nguyên tắc của bạn một cách nhất quán, bạn cần để bổ sung nó bằng thứ gì đó giống như cơ sở dữ liệu véc-tơ, để tất cả kết hợp với nhau trên một nền tảng. Chúng tôi có các kỹ năng, kiến thức và nền tảng cơ bản để giúp họ tạo AI của riêng mình và sau đó kết nối nó với dữ liệu trong Snowflake.
Bây giờ, ** không phải là mục tiêu của mọi khách hàng doanh nghiệp khi nghĩ về cách tôi xây dựng một mô hình ngôn ngữ lớn, mục tiêu của họ nên là, làm cách nào để tôi xây dựng một ứng dụng AI để giải quyết một vấn đề cụ thể? ** Ứng dụng đó có thể mất 17 câu hỏi để cuối cùng đưa ra câu trả lời đúng. Và sau đó bạn có thể nói, tôi muốn viết một chương trình, nó có thể là một chương trình SQL, nó có thể là một chương trình Python, để tôi có thể tự động làm điều này trong tương lai.
** Bạn vẫn phải hướng dẫn trí thông minh nhân tạo này để cuối cùng nó có thể đưa ra câu trả lời chính xác cho bạn. **Nhưng sau đó, bạn có thể tạo một ứng dụng có thể chạy 24/7 với tư cách là một tác nhân (Agent), tìm kiếm các tình huống liên quan và báo cáo trước cho bạn. Vì vậy, công việc của chúng tôi là giúp khách hàng xây dựng các ứng dụng trí tuệ nhân tạo này, cụ thể và được tùy chỉnh với các lan can an toàn.
Cuối cùng, tất cả chúng ta sẽ trở thành những nhà sản xuất thông minh trong tương lai, tất nhiên là sử dụng nhân công, nhưng chúng ta sẽ tạo ra một loạt các tác nhân có thể được tạo bằng thứ gì đó như Lang Chain, các mô hình được kết nối, cơ sở tri thức, các API khác, được triển khai trên đám mây và kết nối nó với tất cả dữ liệu Snowflake.
Bạn có thể vận hành các AI này trên quy mô lớn và liên tục cải thiện các AI này. Vì vậy, mỗi chúng ta sẽ tạo ra AI, điều hành một nhà máy AI. Chúng tôi sẽ đưa cơ sở hạ tầng vào cơ sở dữ liệu của Snowflake, nơi khách hàng có thể sử dụng dữ liệu của họ, đào tạo và phát triển mô hình của họ, vận hành AI của họ, vì vậy Snowflake sẽ là kho lưu trữ và ngân hàng dữ liệu của bạn.
Với mỏ dữ liệu vàng của riêng mình, tất cả sẽ vận hành các nhà máy AI trên Snowflake. Đây là mục tiêu.
03 Mặc dù "Bom hạt nhân" đắt tiền nhưng sử dụng trực tiếp mô hình tương đương với "giảm 10%"
Hoàng Nhân Tốn:
Chúng tôi đã thành lập 5 nhà máy AI tại NVIDIA, 4 trong số đó là 500 siêu máy tính hàng đầu thế giới và nhà máy còn lại đang hoạt động. Chúng tôi sử dụng những siêu máy tính này để thực hiện các mô hình đào tạo trước. Vì vậy, khi bạn sử dụng dịch vụ cơ sở Nemo AI của chúng tôi trong Snowflake, bạn sẽ có được một mô hình được đào tạo trước tiên tiến nhất đã tiêu tốn hàng chục triệu đô la, chưa kể đến R&D. Vì vậy, nó được đào tạo trước.
Sau đó, có một loạt các mô hình khác xung quanh nó được sử dụng để tinh chỉnh, RLHF. Tất cả các mô hình này đều đắt hơn nhiều để đào tạo.
Vì vậy, bây giờ bạn đã điều chỉnh mô hình được đào tạo trước cho các tính năng của mình, phù hợp với lan can của bạn, được tối ưu hóa cho loại kỹ năng hoặc tính năng bạn muốn nó có, được bổ sung với dữ liệu của bạn. Do đó, đây sẽ là một cách tiếp cận hiệu quả hơn về chi phí.
Quan trọng hơn, trong vòng vài ngày chứ không phải vài tháng. Bạn có thể phát triển các ứng dụng AI kết nối với dữ liệu của mình tại Snowflake.
Bạn sẽ có thể nhanh chóng xây dựng các ứng dụng AI trong tương lai.
Bởi vì chúng tôi đang thấy nó xảy ra trong thời gian thực. Đã có những ứng dụng cho phép bạn trò chuyện bằng dữ liệu, chẳng hạn như ChatPDF.
chủ nhà:
**Có, trong thời đại phần mềm 3.0, 95% chi phí đào tạo đã được chi trả bởi những người khác. **
Hoàng Nhân Tốn:
(cười) Vâng, giảm giá 95%, tôi không thể tưởng tượng được một thỏa thuận nào tốt hơn.
chủ nhà:
Đó là động lực thực sự và với tư cách là một nhà đầu tư, tôi đã thấy các công ty rất trẻ trong lĩnh vực phân tích, tự động hóa, pháp lý, v.v., có các ứng dụng đạt được giá trị kinh doanh thực sự trong sáu tháng hoặc ít hơn. Một phần trong số đó là họ đang bắt đầu với những mô hình được đào tạo trước này, đây là một cơ hội lớn cho các doanh nghiệp.
Hoàng Nhân Tốn:
Mỗi công ty sẽ có hàng trăm, thậm chí có thể 1.000 ứng dụng AI, chỉ cần kết nối với tất cả các loại dữ liệu trong công ty của bạn. Vì vậy, tất cả chúng ta phải giỏi xây dựng những thứ này.
04 Trước đây là dữ liệu tìm kiếm doanh nghiệp, bây giờ là doanh nghiệp tìm kiếm dữ liệu
chủ nhà:
Một trong những câu hỏi tôi thường nghe từ những người chơi kinh doanh lớn là chúng ta phải đầu tư vào AI, liệu chúng ta có cần một ngăn xếp mới không? Chúng ta nên nghĩ như thế nào về việc kết nối với ngăn xếp dữ liệu hiện có của mình?
Thẳng thắn：
Tôi nghĩ rằng nó đang phát triển. Các mô hình đang dần trở nên đơn giản hơn, an toàn hơn và được quản lý tốt hơn. Vì vậy, chúng tôi không có một cái nhìn thực sự rõ ràng rằng đây là kiến trúc tham chiếu mà mọi người sẽ sử dụng? Một số sẽ có cài đặt cho một số dịch vụ trung tâm. Microsoft có một phiên bản AI trong Azure và nhiều khách hàng của họ đang tương tác với Azure.
**Nhưng chúng tôi không biết mẫu nào sẽ chiếm ưu thế, chúng tôi cho rằng thị trường sẽ tự phân loại dựa trên những yếu tố như mức độ dễ sử dụng và chi phí. ** Đây chỉ là khởi đầu, không phải là trạng thái cuối cùng.
Lĩnh vực an ninh cũng sẽ tham gia và vấn đề bản quyền sẽ được cải cách. Bây giờ chúng ta bị mê hoặc bởi công nghệ, các vấn đề thực sự sẽ được giải quyết cùng một lúc.
Hoàng Nhân Tốn:
Chúng ta hiện đang trải qua sự thay đổi nền tảng điện toán cơ bản đầu tiên sau 60 năm. Nếu bạn vừa đọc thông cáo báo chí của IBM 360, thì bạn đã nghe nói về các đơn vị xử lý trung tâm, hệ thống con IO, bộ điều khiển DMA, bộ nhớ ảo, đa nhiệm, khả năng mở rộng máy tính tương thích tiến và lùi, và những khái niệm này, thực ra đều là năm 1964, và những khái niệm này các khái niệm đã giúp chúng tôi mở rộng quy mô CPU trong sáu thập kỷ qua.
Việc mở rộng như vậy đã diễn ra trong 60 năm, nhưng nó đã kết thúc. Bây giờ mọi người đều hiểu rằng chúng tôi không còn có thể mở rộng quy mô CPU nữa và đột nhiên, phần mềm thay đổi. Cách phần mềm được viết, cách phần mềm vận hành và những gì phần mềm có thể làm rất khác so với trước đây. Chúng tôi gọi phần mềm trước đây là phần mềm 2.0. Bây giờ là phần mềm 3.0.
Sự thật là, **máy tính đã thay đổi về cơ bản. Chúng tôi thấy hai động lực cơ bản xảy ra cùng một lúc, đó là lý do tại sao mọi thứ đang rung chuyển dữ dội ngay bây giờ. **
Đối với một điều, bạn không còn có thể tiếp tục mua CPU. Nếu bạn mua một loạt CPU khác vào năm tới, thông lượng máy tính của bạn sẽ không tăng. Bởi vì đã đến lúc kết thúc mở rộng quy mô CPU. Bạn sẽ trả nhiều tiền hơn và bạn sẽ không nhận được thêm bất kỳ thông lượng nào. Vì vậy, câu trả lời là bạn phải tăng tốc (Nền tảng điện toán tăng tốc của Nvidia). Người chiến thắng Giải thưởng Turing đã nói về khả năng tăng tốc, Nvidia đi tiên phong trong khả năng tăng tốc và điện toán tăng tốc hiện đã có mặt tại đây.
Mặt khác, toàn bộ hệ điều hành của máy tính đã trải qua những thay đổi sâu sắc. Chúng tôi có một lớp gọi là NVIDIA AI Enterprise và việc triển khai xử lý dữ liệu, đào tạo và lập luận trong đó hiện đã được tích hợp hoặc đang được tích hợp vào Snowflake. Công cụ tính toán đã được tăng tốc. Chúng tôi sẽ cung cấp năng lượng cho Snowflake, nơi bạn sẽ có thể làm được nhiều việc hơn và bạn sẽ có thể làm được nhiều việc hơn với chi phí ít hơn.
Nếu truy cập vào bất kỳ đám mây nào, bạn sẽ thấy rằng GPU NVIDIA là thực thể điện toán đắt nhất ở đó. Nhưng nếu bạn đặt khối lượng công việc lên nó, bạn sẽ thấy rằng chúng tôi đang làm rất nhanh. Nó giống như bạn đang được giảm giá 95%. Chúng tôi là thực thể điện toán đắt nhất, nhưng chúng tôi là TCO hiệu quả nhất về chi phí.
Vì vậy, nếu công việc của bạn là chạy một khối lượng công việc, có thể đào tạo một mô hình ngôn ngữ lớn, có thể tinh chỉnh một mô hình ngôn ngữ lớn, nếu bạn muốn làm điều đó, nhất định phải tăng tốc.
** Tăng tốc mọi khối lượng công việc, đây là quá trình định hình lại toàn bộ ngăn xếp. **Bộ vi xử lý thay đổi vì nó, hệ điều hành thay đổi vì nó, các mô hình ngôn ngữ lớn khác nhau, cách bạn viết các ứng dụng AI cũng khác.
Trong tương lai, tất cả chúng ta sẽ viết ứng dụng. Tất cả chúng ta phải kết nối bối cảnh của chúng ta và của chúng ta, với một vài lệnh Python, với một mô hình ngôn ngữ lớn và cơ sở dữ liệu của riêng chúng ta hoặc cơ sở dữ liệu của công ty, đồng thời phát triển các ứng dụng của riêng chúng ta. Mọi người sẽ là một nhà phát triển ứng dụng.
chủ nhà:
Nhưng chung quy lại, đó vẫn là dữ liệu của bạn. Bạn vẫn cần phải tinh chỉnh nó.
Thẳng thắn：
Hóa ra tất cả chúng ta đều cảm thấy rằng nhanh hơn luôn đắt hơn. Trên thực tế, đột nhiên, nhanh hơn lại rẻ hơn, điều này hơi phản trực giác. Vì vậy, đôi khi mọi người muốn giảm nguồn cung, nghĩ rằng nó rẻ hơn, hóa ra lại đắt hơn.
Một mâu thuẫn khác với điều trước đó là ** trước đây là dữ liệu sẽ hoạt động (dữ liệu sẽ hoạt động), nhưng bây giờ, doanh nghiệp đang tìm kiếm dữ liệu (công việc sẽ chuyển sang dữ liệu). ** Trong sáu mươi năm qua, hoặc hơn thế nữa, chúng ta đã để dữ liệu được sử dụng trong kinh doanh, điều này đã dẫn đến các kho chứa thông tin quy mô lớn. Và nếu muốn có một nhà máy sản xuất AI, sẽ rất khó nếu sử dụng phương pháp trước đây. Chúng ta phải đưa máy tính đến nơi có dữ liệu. Tôi nghĩ những gì chúng ta đang làm bây giờ là đúng đắn.
05 Làm thế nào để doanh nghiệp đạt được giá trị nhanh nhất và lớn nhất
Thẳng thắn：
Trở thành người nhanh nhất và nhận được nhiều giá trị nhất thực sự là hai vấn đề rất khác nhau.
Nếu đó là cách nhanh nhất, **bạn sẽ sớm thấy rằng phương pháp tìm kiếm nâng cao AI có mặt trực tuyến ở mọi nơi trong cơ sở dữ liệu vì đây là chức năng dễ thêm nhất. **Thật đáng kinh ngạc khi ngay cả một người mù chữ cũng có thể nhận được thông tin có giá trị từ dữ liệu, sự dân chủ hóa tối đa của sự tương tác. Chức năng tìm kiếm được cải thiện rất nhiều, bạn chỉ cần đặt câu hỏi cho giao diện chính và họ có thể đưa những câu hỏi này vào dữ liệu để truy vấn cho riêng mình. Đó là quả treo thấp, dễ nhất, chúng tôi nghĩ đó là giai đoạn một.
Tiếp theo, chúng tôi bắt đầu thực sự tập trung vào vấn đề thực sự, đó là dữ liệu doanh nghiệp độc quyền, hỗn hợp có cấu trúc và không có cấu trúc, tất cả những thứ này, chúng tôi huy động dữ liệu này như thế nào? **
Tôi đã đề cập đến tỷ lệ rời bỏ và các vấn đề quản lý chuỗi cung ứng mà các công ty C phải đối mặt. Khi chuỗi cung ứng đặc biệt phức tạp, nếu một sự kiện xảy ra, làm thế nào để chúng ta điều chỉnh lại chuỗi cung ứng để nó hoạt động? Tôi nên làm gì bây giờ Một chuỗi cung ứng được tạo thành từ nhiều thực thể khác nhau, không phải là một doanh nghiệp đơn lẻ. Trong lịch sử, đây là một vấn đề chưa bao giờ được giải quyết bằng tính toán. Quản lý chuỗi cung ứng chưa bao giờ là một nền tảng, nó giống như một e-mail, một bảng tính, với một vài ngoại lệ nhỏ. Vì vậy, điều này là vô cùng thú vị.
Hoặc chúng ta có thể tính toán lại việc đầu tư vào call center lớn và tối ưu hóa giá bán lẻ, như tôi đã nói, đây chính là tiềm năng thực sự của việc định nghĩa lại mô hình kinh doanh mà các CEO của các công ty lớn đã hướng tới. **
06 Gợi ý cho doanh nghiệp:
Hoàng Nhân Tốn:
**Tôi sẽ tự hỏi mình, số một, cơ sở dữ liệu có giá trị nhất của tôi là gì? Điều thứ hai, tôi sẽ tự hỏi mình, nếu tôi có một người siêu, siêu, siêu thông minh và tất cả dữ liệu trong doanh nghiệp đều thông qua trí thông minh siêu việt đó, tôi sẽ hỏi người đó điều gì? **
Điều này là khác nhau tùy theo công ty của mỗi người. Cơ sở dữ liệu khách hàng của công ty Frank rất quan trọng vì anh ấy có nhiều khách hàng. Và công ty của riêng tôi, tôi không có nhiều khách hàng như vậy, nhưng đối với công ty của tôi, chuỗi cung ứng của tôi cực kỳ phức tạp và cơ sở dữ liệu thiết kế của tôi cực kỳ phức tạp.
**Đối với NVIDIA, chúng tôi không thể xây dựng GPU mà không có trí tuệ nhân tạo. Bởi vì không có kỹ sư nào của chúng tôi có thể thực hiện nhiều lần lặp lại và khám phá cho chúng tôi như AI. ** Do đó, khi chúng tôi đề xuất trí tuệ nhân tạo, ứng dụng đầu tiên là trong chính công ty của chúng tôi. Hơn nữa, Hopper (sản phẩm siêu máy tính của NVIDIA) không thể được thiết kế nếu không có trí tuệ nhân tạo.
Chúng tôi cũng sẽ áp dụng AI của riêng mình vào dữ liệu của chính mình. Cơ sở dữ liệu lỗi của chúng tôi là một trường hợp sử dụng hoàn hảo cho việc này. Nếu bạn nhìn vào số lượng mã tại NVIDIA AI, chúng tôi có hàng trăm gói phần mềm, kết hợp lại, cho phép một ứng dụng chạy. Một số điều chúng tôi đang nghiên cứu ngay bây giờ là cách sử dụng AI để tìm ra cách vá lỗi bảo mật, cách bảo trì nó tốt nhất để chúng tôi không phải can thiệp vào toàn bộ lớp ứng dụng phía trên trong khi tương thích ngược .
Đây là những gì AI có thể cung cấp cho bạn câu trả lời. Chúng tôi có thể sử dụng một mô hình ngôn ngữ lớn để trả lời những câu hỏi này, tìm câu trả lời cho chúng tôi hoặc tiết lộ điều gì đó cho chúng tôi và sau đó các kỹ sư có thể sửa nó. Hoặc AI có thể đề xuất một phương pháp sửa chữa và các kỹ sư con người có thể xác nhận liệu đó có phải là một phương pháp sửa chữa tốt hay không.
Tôi không nghĩ rằng mọi người đều nhận ra có bao nhiêu trí thông minh, sự hiểu biết sâu sắc và tầm ảnh hưởng ẩn chứa trong dữ liệu mà họ xử lý hàng ngày. **Đó là lý do tại sao tất cả chúng ta cần tham gia và giúp mang lại tương lai này.
Giờ đây, lần đầu tiên, dữ liệu bạn lưu trữ trong kho dữ liệu có thể được kết nối với nhà máy trí tuệ nhân tạo. **Bạn sẽ có thể tạo ra thông tin tình báo, hàng hóa có giá trị nhất trên thế giới. Bạn đang ngồi trên một mỏ vàng tài nguyên thiên nhiên - dữ liệu độc quyền của công ty bạn và chúng tôi hiện đang kết nối nó với một công cụ trí tuệ nhân tạo và đầu kia đang trực tiếp tạo ra thông tin tình báo mỗi ngày, với một lượng trí tuệ đáng kinh ngạc đổ vào từ đầu kia ra ngoài, ngay cả khi bạn ngủ nó vẫn tiếp tục phát ra. Đó là điều tốt nhất bao giờ hết.
Xem bản gốc
Nội dung chỉ mang tính chất tham khảo, không phải là lời chào mời hay đề nghị. Không cung cấp tư vấn về đầu tư, thuế hoặc pháp lý. Xem Tuyên bố miễn trừ trách nhiệm để biết thêm thông tin về rủi ro.
Huang Renxun: Sức mạnh tính toán AI của Nvidia đã được bán giảm giá 10%
Tác giả | Ling Zijun, Li Yuan
Biên tập | Cảnh Vũ
Huang Renxun, mặc áo khoác da, đứng trên ván lướt sóng màu xanh và tạo một vài tư thế lướt sóng.
Đây không phải là VidCon, "Lễ hội Internet đỏ" ở Hoa Kỳ, mà là một cảnh tại hội nghị nhà phát triển của Snowflake, một nền tảng dữ liệu nổi tiếng ở Hoa Kỳ.
Vào ngày 26 tháng 6 theo giờ địa phương, người sáng lập Nvidia, Huang Renxun và Giám đốc điều hành của Snowflake, Frank Slootman đã thảo luận về "cách mang AI tổng quát đến người dùng doanh nghiệp". Người dẫn chương trình là Greylock GP trước đây, hiện là người sáng lập công ty đầu tư Conviction.
Tại buổi gặp mặt, so với sự trưởng thành và thận trọng trong quản lý chuyên nghiệp của “người dẫn chương trình” Frank, “Bố già mặc đồ da” vẫn gây bất ngờ như mọi khi, không chỉ nói rằng sự hợp tác giữa hai bên là “We are Lovers, not Fighters” ( We are Lovers, not Fighters), Người ta còn nói đùa rằng mô hình được đào tạo cung cấp cho Snowflake tương đương với việc "giảm giá 10%" cho khách hàng.
Cùng ngày, Nvidia và Snowflake cùng tung ra một động thái lớn khác: công ty chip số 1 thế giới hợp tác với nền tảng dữ liệu đám mây phổ biến nhất để khởi động một sự hợp tác chung. **Người dùng Snowflake có thể trực tiếp sử dụng mô hình AI được đào tạo trước của Nvidia để phân tích dữ liệu của công ty họ trên nền tảng đám mây mà không cần rời khỏi nền tảng và phát triển "ứng dụng AI" cho dữ liệu của riêng họ. **
"Những thay đổi lớn hiện nay đến từ dữ liệu + thuật toán AI + công cụ tính toán. Thông qua sự hợp tác của chúng tôi, chúng tôi có thể mang ba điểm này lại với nhau.", Huang Renxun cho biết.
Khả năng giao tiếp:
Sau đây là nội dung chính của cuộc đối thoại giữa hai bên do Geek Park biên tập:
01 Nói về sự hợp tác: mang công cụ tính toán tốt nhất đến với dữ liệu có giá trị nhất
Thẳng thắn：
NVIDIA hiện đóng một vai trò quan trọng trong lịch sử. Đối với chúng tôi, có thể mang dữ liệu và mối quan hệ đến các doanh nghiệp lớn. Chúng tôi cần kích hoạt công nghệ này và toàn bộ ngăn xếp dịch vụ để sử dụng nó một cách hiệu quả. Tôi không muốn mô tả nó là "một trận đấu được tạo ra từ thiên đường", nhưng đối với một giáo dân, đó là một cơ hội tốt để bước vào cánh cửa cơ hội này.
Hoàng Nhân Tốn:
Chúng tôi là người yêu, không phải đối thủ. **Chúng tôi muốn mang công cụ điện toán tốt nhất thế giới đến với dữ liệu quý giá nhất thế giới. Nhìn lại, tôi đã làm việc trong một thời gian dài, nhưng tôi không già như vậy. Frank, bạn lớn tuổi hơn (cười). **
Gần đây, dữ liệu rất lớn và dữ liệu rất quý giá vì những lý do nổi tiếng. Nó phải được an toàn. Di chuyển dữ liệu là khó khăn và lực hấp dẫn của dữ liệu là có thật. Vì vậy, việc đưa công cụ tính toán của chúng tôi vào Snowflake dễ dàng hơn nhiều đối với chúng tôi. Quan hệ đối tác của chúng tôi không chỉ nhằm tăng tốc Snowflake, mà còn là đưa AI vào Snowflake. **
**Cốt lõi là sự kết hợp giữa dữ liệu + thuật toán trí tuệ nhân tạo + công cụ tính toán, mối quan hệ đối tác của chúng tôi kết hợp cả ba thứ lại với nhau. **Dữ liệu cực kỳ giá trị, trí tuệ nhân tạo tuyệt vời không thể tin được, công cụ tính toán tuyệt vời không thể tin được.
Những gì chúng ta có thể làm cùng nhau là giúp khách hàng lấy dữ liệu độc quyền của họ và sử dụng dữ liệu đó để viết các ứng dụng AI. Bạn biết đấy, bước đột phá lớn ở đây là lần đầu tiên bạn có thể phát triển một mô hình ngôn ngữ lớn. Bạn đặt nó trước dữ liệu của mình, sau đó bạn nói chuyện với dữ liệu của mình giống như bạn nói chuyện với con người và dữ liệu đó được bổ sung vào một mô hình ngôn ngữ lớn.
Sự kết hợp của một mô hình ngôn ngữ lớn cộng với cơ sở tri thức tương đương với một ứng dụng AI. ** Cái này đơn giản, một mô hình ngôn ngữ lớn biến bất kỳ cơ sở tri thức dữ liệu nào thành một ứng dụng. **
Hãy nghĩ về tất cả những ứng dụng tuyệt vời mà mọi người đã viết. Về cốt lõi, luôn có một số dữ liệu có giá trị. Bây giờ bạn có một công cụ truy vấn chung của công cụ truy vấn ở phía trước, nó cực kỳ thông minh, bạn có thể khiến nó phản hồi cho bạn, nhưng bạn cũng có thể kết nối nó với một proxy, đó là bước đột phá mà Langchain và cơ sở dữ liệu vector mang lại. Công cụ đột phá bao phủ dữ liệu và các mô hình ngôn ngữ lớn đang diễn ra ở khắp mọi nơi và mọi người đều muốn làm điều đó. Và tôi và Frank sẽ giúp bạn làm điều đó.
02 Phần mềm 3.0: Xây dựng ứng dụng AI để giải quyết một vấn đề cụ thể
chủ nhà:
Khi một nhà đầu tư xem xét sự thay đổi này, phần mềm 1.0 là mã rất xác định được viết bởi các kỹ sư theo chức năng; phần mềm 2.0 đang tối ưu hóa mạng thần kinh với dữ liệu đào tạo được dán nhãn được thu thập cẩn thận.
Các bạn đang giúp mọi người tận dụng Phần mềm 3.0, một tập hợp các mô hình cơ bản có khả năng độc lập đáng kinh ngạc, nhưng họ vẫn cần phải làm việc với dữ liệu doanh nghiệp và tập dữ liệu tùy chỉnh. Sẽ rẻ hơn nhiều nếu chỉ phát triển những ứng dụng đó để chống lại họ.
**Một câu hỏi cho những ai tìm hiểu sâu về lĩnh vực này, mô hình cơ bản rất chung chung, nó có làm được mọi thứ không? Tại sao chúng ta cần các mô hình tùy chỉnh và dữ liệu doanh nghiệp? **
Thẳng thắn：
Vì vậy, chúng tôi có những mô hình rất tổng quát có thể làm thơ, làm tóm tắt về The Great Gatsby, làm các bài toán.
Nhưng trong kinh doanh, chúng ta không cần những thứ này. Cái chúng ta cần là một Copilot để có được những hiểu biết phi thường về một tập hợp dữ liệu rất hẹp nhưng rất phức tạp.
Chúng ta cần hiểu các mô hình kinh doanh và động lực kinh doanh. Điều này không cần quá tốn kém về mặt tính toán, bởi vì một mô hình không cần phải được đào tạo về hàng triệu thứ, mà chỉ cần biết rất ít nhưng chủ đề sâu sắc.
Ví dụ. Tôi là thành viên hội đồng quản trị của Instacart và là một trong những khách hàng lớn của chúng tôi, như DoorDash và tất cả các doanh nghiệp khác đang gặp vấn đề là họ tiếp tục tăng chi tiêu tiếp thị, khách hàng đến, khách hàng đặt hàng và khách hàng cũng không không quay lại hoặc quay lại sau 90 ngày, điều này rất không ổn định. Họ gọi đây là khuấy động.
Đây là phân tích các vấn đề phức tạp vì có thể có nhiều lý do khiến khách hàng không quay lại. Mọi người muốn tìm câu trả lời cho những câu hỏi này và nó nằm trong dữ liệu chứ không phải trên Internet nói chung và nó có thể được tìm thấy thông qua trí tuệ nhân tạo. Đây là một ví dụ về nơi có thể tạo ra giá trị lớn.
chủ nhà:
Các mô hình này nên tương tác với dữ liệu doanh nghiệp như thế nào?
Hoàng Nhân Tốn:
Chiến lược và sản phẩm của chúng tôi là các mô hình được đào tạo trước tiên tiến nhất ở mọi quy mô và đôi khi bạn cần tạo một mô hình được đào tạo trước rất lớn để có thể sản xuất mô hình này để dạy các mô hình nhỏ hơn.
Và các mô hình nhỏ hơn có thể chạy trên hầu hết mọi thiết bị, có lẽ với độ trễ rất thấp. Tuy nhiên, khả năng khái quát hóa của nó không cao và khả năng zero shot (zero sample learning) có thể bị hạn chế hơn.
Vì vậy, bạn có thể có một số mô hình với các loại và kích cỡ khác nhau, nhưng trong mỗi trường hợp, bạn phải tinh chỉnh có giám sát, bạn phải thực hiện RLHF (học tăng cường với phản hồi của con người) để nó phù hợp với mục tiêu và nguyên tắc của bạn một cách nhất quán, bạn cần để bổ sung nó bằng thứ gì đó giống như cơ sở dữ liệu véc-tơ, để tất cả kết hợp với nhau trên một nền tảng. Chúng tôi có các kỹ năng, kiến thức và nền tảng cơ bản để giúp họ tạo AI của riêng mình và sau đó kết nối nó với dữ liệu trong Snowflake.
Bây giờ, ** không phải là mục tiêu của mọi khách hàng doanh nghiệp khi nghĩ về cách tôi xây dựng một mô hình ngôn ngữ lớn, mục tiêu của họ nên là, làm cách nào để tôi xây dựng một ứng dụng AI để giải quyết một vấn đề cụ thể? ** Ứng dụng đó có thể mất 17 câu hỏi để cuối cùng đưa ra câu trả lời đúng. Và sau đó bạn có thể nói, tôi muốn viết một chương trình, nó có thể là một chương trình SQL, nó có thể là một chương trình Python, để tôi có thể tự động làm điều này trong tương lai.
** Bạn vẫn phải hướng dẫn trí thông minh nhân tạo này để cuối cùng nó có thể đưa ra câu trả lời chính xác cho bạn. **Nhưng sau đó, bạn có thể tạo một ứng dụng có thể chạy 24/7 với tư cách là một tác nhân (Agent), tìm kiếm các tình huống liên quan và báo cáo trước cho bạn. Vì vậy, công việc của chúng tôi là giúp khách hàng xây dựng các ứng dụng trí tuệ nhân tạo này, cụ thể và được tùy chỉnh với các lan can an toàn.
Cuối cùng, tất cả chúng ta sẽ trở thành những nhà sản xuất thông minh trong tương lai, tất nhiên là sử dụng nhân công, nhưng chúng ta sẽ tạo ra một loạt các tác nhân có thể được tạo bằng thứ gì đó như Lang Chain, các mô hình được kết nối, cơ sở tri thức, các API khác, được triển khai trên đám mây và kết nối nó với tất cả dữ liệu Snowflake.
Bạn có thể vận hành các AI này trên quy mô lớn và liên tục cải thiện các AI này. Vì vậy, mỗi chúng ta sẽ tạo ra AI, điều hành một nhà máy AI. Chúng tôi sẽ đưa cơ sở hạ tầng vào cơ sở dữ liệu của Snowflake, nơi khách hàng có thể sử dụng dữ liệu của họ, đào tạo và phát triển mô hình của họ, vận hành AI của họ, vì vậy Snowflake sẽ là kho lưu trữ và ngân hàng dữ liệu của bạn.
Với mỏ dữ liệu vàng của riêng mình, tất cả sẽ vận hành các nhà máy AI trên Snowflake. Đây là mục tiêu.
03 Mặc dù "Bom hạt nhân" đắt tiền nhưng sử dụng trực tiếp mô hình tương đương với "giảm 10%"
Hoàng Nhân Tốn:
Chúng tôi đã thành lập 5 nhà máy AI tại NVIDIA, 4 trong số đó là 500 siêu máy tính hàng đầu thế giới và nhà máy còn lại đang hoạt động. Chúng tôi sử dụng những siêu máy tính này để thực hiện các mô hình đào tạo trước. Vì vậy, khi bạn sử dụng dịch vụ cơ sở Nemo AI của chúng tôi trong Snowflake, bạn sẽ có được một mô hình được đào tạo trước tiên tiến nhất đã tiêu tốn hàng chục triệu đô la, chưa kể đến R&D. Vì vậy, nó được đào tạo trước.
Sau đó, có một loạt các mô hình khác xung quanh nó được sử dụng để tinh chỉnh, RLHF. Tất cả các mô hình này đều đắt hơn nhiều để đào tạo.
Vì vậy, bây giờ bạn đã điều chỉnh mô hình được đào tạo trước cho các tính năng của mình, phù hợp với lan can của bạn, được tối ưu hóa cho loại kỹ năng hoặc tính năng bạn muốn nó có, được bổ sung với dữ liệu của bạn. Do đó, đây sẽ là một cách tiếp cận hiệu quả hơn về chi phí.
Quan trọng hơn, trong vòng vài ngày chứ không phải vài tháng. Bạn có thể phát triển các ứng dụng AI kết nối với dữ liệu của mình tại Snowflake.
Bạn sẽ có thể nhanh chóng xây dựng các ứng dụng AI trong tương lai.
Bởi vì chúng tôi đang thấy nó xảy ra trong thời gian thực. Đã có những ứng dụng cho phép bạn trò chuyện bằng dữ liệu, chẳng hạn như ChatPDF.
chủ nhà:
**Có, trong thời đại phần mềm 3.0, 95% chi phí đào tạo đã được chi trả bởi những người khác. **
Hoàng Nhân Tốn:
(cười) Vâng, giảm giá 95%, tôi không thể tưởng tượng được một thỏa thuận nào tốt hơn.
chủ nhà:
Đó là động lực thực sự và với tư cách là một nhà đầu tư, tôi đã thấy các công ty rất trẻ trong lĩnh vực phân tích, tự động hóa, pháp lý, v.v., có các ứng dụng đạt được giá trị kinh doanh thực sự trong sáu tháng hoặc ít hơn. Một phần trong số đó là họ đang bắt đầu với những mô hình được đào tạo trước này, đây là một cơ hội lớn cho các doanh nghiệp.
Hoàng Nhân Tốn:
Mỗi công ty sẽ có hàng trăm, thậm chí có thể 1.000 ứng dụng AI, chỉ cần kết nối với tất cả các loại dữ liệu trong công ty của bạn. Vì vậy, tất cả chúng ta phải giỏi xây dựng những thứ này.
04 Trước đây là dữ liệu tìm kiếm doanh nghiệp, bây giờ là doanh nghiệp tìm kiếm dữ liệu
chủ nhà:
Một trong những câu hỏi tôi thường nghe từ những người chơi kinh doanh lớn là chúng ta phải đầu tư vào AI, liệu chúng ta có cần một ngăn xếp mới không? Chúng ta nên nghĩ như thế nào về việc kết nối với ngăn xếp dữ liệu hiện có của mình?
Thẳng thắn：
Tôi nghĩ rằng nó đang phát triển. Các mô hình đang dần trở nên đơn giản hơn, an toàn hơn và được quản lý tốt hơn. Vì vậy, chúng tôi không có một cái nhìn thực sự rõ ràng rằng đây là kiến trúc tham chiếu mà mọi người sẽ sử dụng? Một số sẽ có cài đặt cho một số dịch vụ trung tâm. Microsoft có một phiên bản AI trong Azure và nhiều khách hàng của họ đang tương tác với Azure.
**Nhưng chúng tôi không biết mẫu nào sẽ chiếm ưu thế, chúng tôi cho rằng thị trường sẽ tự phân loại dựa trên những yếu tố như mức độ dễ sử dụng và chi phí. ** Đây chỉ là khởi đầu, không phải là trạng thái cuối cùng.
Lĩnh vực an ninh cũng sẽ tham gia và vấn đề bản quyền sẽ được cải cách. Bây giờ chúng ta bị mê hoặc bởi công nghệ, các vấn đề thực sự sẽ được giải quyết cùng một lúc.
Hoàng Nhân Tốn:
Chúng ta hiện đang trải qua sự thay đổi nền tảng điện toán cơ bản đầu tiên sau 60 năm. Nếu bạn vừa đọc thông cáo báo chí của IBM 360, thì bạn đã nghe nói về các đơn vị xử lý trung tâm, hệ thống con IO, bộ điều khiển DMA, bộ nhớ ảo, đa nhiệm, khả năng mở rộng máy tính tương thích tiến và lùi, và những khái niệm này, thực ra đều là năm 1964, và những khái niệm này các khái niệm đã giúp chúng tôi mở rộng quy mô CPU trong sáu thập kỷ qua.
Việc mở rộng như vậy đã diễn ra trong 60 năm, nhưng nó đã kết thúc. Bây giờ mọi người đều hiểu rằng chúng tôi không còn có thể mở rộng quy mô CPU nữa và đột nhiên, phần mềm thay đổi. Cách phần mềm được viết, cách phần mềm vận hành và những gì phần mềm có thể làm rất khác so với trước đây. Chúng tôi gọi phần mềm trước đây là phần mềm 2.0. Bây giờ là phần mềm 3.0.
Sự thật là, **máy tính đã thay đổi về cơ bản. Chúng tôi thấy hai động lực cơ bản xảy ra cùng một lúc, đó là lý do tại sao mọi thứ đang rung chuyển dữ dội ngay bây giờ. **
Đối với một điều, bạn không còn có thể tiếp tục mua CPU. Nếu bạn mua một loạt CPU khác vào năm tới, thông lượng máy tính của bạn sẽ không tăng. Bởi vì đã đến lúc kết thúc mở rộng quy mô CPU. Bạn sẽ trả nhiều tiền hơn và bạn sẽ không nhận được thêm bất kỳ thông lượng nào. Vì vậy, câu trả lời là bạn phải tăng tốc (Nền tảng điện toán tăng tốc của Nvidia). Người chiến thắng Giải thưởng Turing đã nói về khả năng tăng tốc, Nvidia đi tiên phong trong khả năng tăng tốc và điện toán tăng tốc hiện đã có mặt tại đây.
Mặt khác, toàn bộ hệ điều hành của máy tính đã trải qua những thay đổi sâu sắc. Chúng tôi có một lớp gọi là NVIDIA AI Enterprise và việc triển khai xử lý dữ liệu, đào tạo và lập luận trong đó hiện đã được tích hợp hoặc đang được tích hợp vào Snowflake. Công cụ tính toán đã được tăng tốc. Chúng tôi sẽ cung cấp năng lượng cho Snowflake, nơi bạn sẽ có thể làm được nhiều việc hơn và bạn sẽ có thể làm được nhiều việc hơn với chi phí ít hơn.
Nếu truy cập vào bất kỳ đám mây nào, bạn sẽ thấy rằng GPU NVIDIA là thực thể điện toán đắt nhất ở đó. Nhưng nếu bạn đặt khối lượng công việc lên nó, bạn sẽ thấy rằng chúng tôi đang làm rất nhanh. Nó giống như bạn đang được giảm giá 95%. Chúng tôi là thực thể điện toán đắt nhất, nhưng chúng tôi là TCO hiệu quả nhất về chi phí.
Vì vậy, nếu công việc của bạn là chạy một khối lượng công việc, có thể đào tạo một mô hình ngôn ngữ lớn, có thể tinh chỉnh một mô hình ngôn ngữ lớn, nếu bạn muốn làm điều đó, nhất định phải tăng tốc.
** Tăng tốc mọi khối lượng công việc, đây là quá trình định hình lại toàn bộ ngăn xếp. **Bộ vi xử lý thay đổi vì nó, hệ điều hành thay đổi vì nó, các mô hình ngôn ngữ lớn khác nhau, cách bạn viết các ứng dụng AI cũng khác.
Trong tương lai, tất cả chúng ta sẽ viết ứng dụng. Tất cả chúng ta phải kết nối bối cảnh của chúng ta và của chúng ta, với một vài lệnh Python, với một mô hình ngôn ngữ lớn và cơ sở dữ liệu của riêng chúng ta hoặc cơ sở dữ liệu của công ty, đồng thời phát triển các ứng dụng của riêng chúng ta. Mọi người sẽ là một nhà phát triển ứng dụng.
chủ nhà:
Nhưng chung quy lại, đó vẫn là dữ liệu của bạn. Bạn vẫn cần phải tinh chỉnh nó.
Thẳng thắn：
Hóa ra tất cả chúng ta đều cảm thấy rằng nhanh hơn luôn đắt hơn. Trên thực tế, đột nhiên, nhanh hơn lại rẻ hơn, điều này hơi phản trực giác. Vì vậy, đôi khi mọi người muốn giảm nguồn cung, nghĩ rằng nó rẻ hơn, hóa ra lại đắt hơn.
Một mâu thuẫn khác với điều trước đó là ** trước đây là dữ liệu sẽ hoạt động (dữ liệu sẽ hoạt động), nhưng bây giờ, doanh nghiệp đang tìm kiếm dữ liệu (công việc sẽ chuyển sang dữ liệu). ** Trong sáu mươi năm qua, hoặc hơn thế nữa, chúng ta đã để dữ liệu được sử dụng trong kinh doanh, điều này đã dẫn đến các kho chứa thông tin quy mô lớn. Và nếu muốn có một nhà máy sản xuất AI, sẽ rất khó nếu sử dụng phương pháp trước đây. Chúng ta phải đưa máy tính đến nơi có dữ liệu. Tôi nghĩ những gì chúng ta đang làm bây giờ là đúng đắn.
05 Làm thế nào để doanh nghiệp đạt được giá trị nhanh nhất và lớn nhất
Thẳng thắn：
Trở thành người nhanh nhất và nhận được nhiều giá trị nhất thực sự là hai vấn đề rất khác nhau.
Nếu đó là cách nhanh nhất, **bạn sẽ sớm thấy rằng phương pháp tìm kiếm nâng cao AI có mặt trực tuyến ở mọi nơi trong cơ sở dữ liệu vì đây là chức năng dễ thêm nhất. **Thật đáng kinh ngạc khi ngay cả một người mù chữ cũng có thể nhận được thông tin có giá trị từ dữ liệu, sự dân chủ hóa tối đa của sự tương tác. Chức năng tìm kiếm được cải thiện rất nhiều, bạn chỉ cần đặt câu hỏi cho giao diện chính và họ có thể đưa những câu hỏi này vào dữ liệu để truy vấn cho riêng mình. Đó là quả treo thấp, dễ nhất, chúng tôi nghĩ đó là giai đoạn một.
Tiếp theo, chúng tôi bắt đầu thực sự tập trung vào vấn đề thực sự, đó là dữ liệu doanh nghiệp độc quyền, hỗn hợp có cấu trúc và không có cấu trúc, tất cả những thứ này, chúng tôi huy động dữ liệu này như thế nào? **
Tôi đã đề cập đến tỷ lệ rời bỏ và các vấn đề quản lý chuỗi cung ứng mà các công ty C phải đối mặt. Khi chuỗi cung ứng đặc biệt phức tạp, nếu một sự kiện xảy ra, làm thế nào để chúng ta điều chỉnh lại chuỗi cung ứng để nó hoạt động? Tôi nên làm gì bây giờ Một chuỗi cung ứng được tạo thành từ nhiều thực thể khác nhau, không phải là một doanh nghiệp đơn lẻ. Trong lịch sử, đây là một vấn đề chưa bao giờ được giải quyết bằng tính toán. Quản lý chuỗi cung ứng chưa bao giờ là một nền tảng, nó giống như một e-mail, một bảng tính, với một vài ngoại lệ nhỏ. Vì vậy, điều này là vô cùng thú vị.
Hoặc chúng ta có thể tính toán lại việc đầu tư vào call center lớn và tối ưu hóa giá bán lẻ, như tôi đã nói, đây chính là tiềm năng thực sự của việc định nghĩa lại mô hình kinh doanh mà các CEO của các công ty lớn đã hướng tới. **
06 Gợi ý cho doanh nghiệp:
Hoàng Nhân Tốn:
**Tôi sẽ tự hỏi mình, số một, cơ sở dữ liệu có giá trị nhất của tôi là gì? Điều thứ hai, tôi sẽ tự hỏi mình, nếu tôi có một người siêu, siêu, siêu thông minh và tất cả dữ liệu trong doanh nghiệp đều thông qua trí thông minh siêu việt đó, tôi sẽ hỏi người đó điều gì? **
Điều này là khác nhau tùy theo công ty của mỗi người. Cơ sở dữ liệu khách hàng của công ty Frank rất quan trọng vì anh ấy có nhiều khách hàng. Và công ty của riêng tôi, tôi không có nhiều khách hàng như vậy, nhưng đối với công ty của tôi, chuỗi cung ứng của tôi cực kỳ phức tạp và cơ sở dữ liệu thiết kế của tôi cực kỳ phức tạp.
**Đối với NVIDIA, chúng tôi không thể xây dựng GPU mà không có trí tuệ nhân tạo. Bởi vì không có kỹ sư nào của chúng tôi có thể thực hiện nhiều lần lặp lại và khám phá cho chúng tôi như AI. ** Do đó, khi chúng tôi đề xuất trí tuệ nhân tạo, ứng dụng đầu tiên là trong chính công ty của chúng tôi. Hơn nữa, Hopper (sản phẩm siêu máy tính của NVIDIA) không thể được thiết kế nếu không có trí tuệ nhân tạo.
Chúng tôi cũng sẽ áp dụng AI của riêng mình vào dữ liệu của chính mình. Cơ sở dữ liệu lỗi của chúng tôi là một trường hợp sử dụng hoàn hảo cho việc này. Nếu bạn nhìn vào số lượng mã tại NVIDIA AI, chúng tôi có hàng trăm gói phần mềm, kết hợp lại, cho phép một ứng dụng chạy. Một số điều chúng tôi đang nghiên cứu ngay bây giờ là cách sử dụng AI để tìm ra cách vá lỗi bảo mật, cách bảo trì nó tốt nhất để chúng tôi không phải can thiệp vào toàn bộ lớp ứng dụng phía trên trong khi tương thích ngược .
Đây là những gì AI có thể cung cấp cho bạn câu trả lời. Chúng tôi có thể sử dụng một mô hình ngôn ngữ lớn để trả lời những câu hỏi này, tìm câu trả lời cho chúng tôi hoặc tiết lộ điều gì đó cho chúng tôi và sau đó các kỹ sư có thể sửa nó. Hoặc AI có thể đề xuất một phương pháp sửa chữa và các kỹ sư con người có thể xác nhận liệu đó có phải là một phương pháp sửa chữa tốt hay không.
Tôi không nghĩ rằng mọi người đều nhận ra có bao nhiêu trí thông minh, sự hiểu biết sâu sắc và tầm ảnh hưởng ẩn chứa trong dữ liệu mà họ xử lý hàng ngày. **Đó là lý do tại sao tất cả chúng ta cần tham gia và giúp mang lại tương lai này.
Giờ đây, lần đầu tiên, dữ liệu bạn lưu trữ trong kho dữ liệu có thể được kết nối với nhà máy trí tuệ nhân tạo. **Bạn sẽ có thể tạo ra thông tin tình báo, hàng hóa có giá trị nhất trên thế giới. Bạn đang ngồi trên một mỏ vàng tài nguyên thiên nhiên - dữ liệu độc quyền của công ty bạn và chúng tôi hiện đang kết nối nó với một công cụ trí tuệ nhân tạo và đầu kia đang trực tiếp tạo ra thông tin tình báo mỗi ngày, với một lượng trí tuệ đáng kinh ngạc đổ vào từ đầu kia ra ngoài, ngay cả khi bạn ngủ nó vẫn tiếp tục phát ra. Đó là điều tốt nhất bao giờ hết.