12月初，亞馬遜云科技一年一度的re:Invent大會(huì)在美國(guó)拉斯維加斯大會(huì)召開(kāi)，來(lái)自世界各地的超6萬(wàn)名參會(huì)者，他們脖子上佩戴著不同顏色的牌子，穿梭于各個(gè)會(huì)場(chǎng)之間。

re:Invent大會(huì)一直就以務(wù)實(shí)著稱，但這一屆發(fā)布的產(chǎn)品之多，連很多連續(xù)參會(huì)的資深專家都感覺(jué)到信息過(guò)載——僅僅在三天時(shí)間里，亞馬遜云科技CEO Matt Garman與高級(jí)副總裁Peter DeSantis、AI和數(shù)據(jù)副總裁Swami博士就發(fā)布了超過(guò)30+新品，涵蓋推理芯片、AI服務(wù)器、大語(yǔ)言模型、生成式AI開(kāi)發(fā)工具等等。

在親身感受這些密集的產(chǎn)品發(fā)布過(guò)程，可以清晰地提煉出亞馬遜云科技開(kāi)會(huì)和演講的套路，那就是——在服務(wù)客戶過(guò)程中我們發(fā)現(xiàn)了XX問(wèn)題，于是我們就推出了XX工具，非常簡(jiǎn)單直給。

作為亞馬遜云科技最早、也是應(yīng)用最深入的客戶，亞馬遜CEO Andy Jassy時(shí)隔多年再次亮相re:Invent，這次他不僅一口氣發(fā)布了6款A(yù)mazon Nova模型（包括4款基礎(chǔ)模型，1款圖像生成模型和1款視頻生成模型），更是作為亞馬遜云科技最早、也是應(yīng)用最深入的客戶（據(jù)他透露，亞馬遜內(nèi)部已構(gòu)建或正在構(gòu)建近1000個(gè)生成式AI應(yīng)用程序），他分享的關(guān)于亞馬遜應(yīng)用AI的三個(gè)核心問(wèn)題——選擇、成本和需求，完全可以作為理解本次大會(huì)的基本邏輯。搞懂了這三個(gè)問(wèn)題，再看這30多個(gè)產(chǎn)品發(fā)布的背后思路就很清晰了。

更自由的選擇

“當(dāng)你嘗試構(gòu)建某些東西或者做決策時(shí)，常常需要在A和B之間做選擇嗎？這種選擇其實(shí)限制了你的思路。在亞馬遜云科技，我們不這么思考問(wèn)題?！眮嗰R遜云科技一年一度的re:Invent大會(huì)上，亞馬遜云科技CEO Matt Garman在主題演講時(shí)，這樣表達(dá)了對(duì)技術(shù)應(yīng)用的理解。

Matt認(rèn)為，“做選擇”實(shí)際上制造了虛假邊界，“讓你馬上開(kāi)始想自己必須選A或者選B，但我們推動(dòng)團(tuán)隊(duì)去思考如何同時(shí)達(dá)成A和B，就可以讓大家換一種方式思考”。

在Matt眼中，開(kāi)發(fā)者與客戶永遠(yuǎn)有選擇最優(yōu)產(chǎn)品的權(quán)利。這是亞馬遜云科技成立時(shí)秉承的理念，無(wú)論是一兩百款EC2，還是上百款數(shù)據(jù)庫(kù)——亞馬遜云科技一直都認(rèn)為，客戶的需求大于一切，那么需求的多樣性就決定了選項(xiàng)的多樣性。

亞馬遜云科技愿景文件撰寫(xiě)于2003年。彼時(shí)，眾多科技公司紛紛構(gòu)建捆綁式的解決方案，試圖大包大攬。最終形成的是龐大而單一的解決方案，雖功能全面卻僅達(dá)合格水準(zhǔn)。但合格不應(yīng)是追求的終點(diǎn)，人們真正渴望的是最優(yōu)組件。若能將所有頂尖元素整合一體，那才堪稱完美?！盎诖四?，亞馬遜云科技應(yīng)運(yùn)而生?！盡att說(shuō)。過(guò)去18年，靈活的技術(shù)構(gòu)建模塊，也成為亞馬遜云科技服務(wù)逐漸向上的執(zhí)念。

這一理念也表現(xiàn)在時(shí)下熱議的大模型服務(wù)上?！霸趤嗰R遜內(nèi)部構(gòu)建項(xiàng)目中所使用模型的多樣性令人驚訝。給予了開(kāi)發(fā)者自主選擇的權(quán)利，原本以為大家都會(huì)選用Anthropic的Claude模型，畢竟過(guò)去一年多它在全球?qū)儆谛阅茼敿獾哪Ｐ?，確實(shí)有很多內(nèi)部開(kāi)發(fā)者在使用Claude模型，但他們也會(huì)采用Llama模型、Mistral模型，甚至?xí)褂米孕醒邪l(fā)的模型。”Andy Jassy演講時(shí)談及亞馬遜落地生成式AI的經(jīng)驗(yàn)，“因?yàn)橐恢倍荚诩橙⊥粋€(gè)教訓(xùn)，那就是永遠(yuǎn)不會(huì)出現(xiàn)一種工具能在某個(gè)領(lǐng)域一統(tǒng)天下的情況。就像數(shù)據(jù)庫(kù)領(lǐng)域，探討了10年，大家會(huì)使用各種各樣的關(guān)系型數(shù)據(jù)庫(kù)或者非關(guān)系型數(shù)據(jù)庫(kù)；就像大數(shù)據(jù)領(lǐng)域討論了很久是不是TensorFlow會(huì)一統(tǒng)天下，結(jié)果PyTorch更受歡迎。”

Amazon Bedrock Marketplace是Swami博士在現(xiàn)場(chǎng)發(fā)布的其中一款新品。這是一個(gè)擁有100多個(gè)領(lǐng)先大模型的“市場(chǎng)”，Amazon Bedrock中的統(tǒng)一體驗(yàn)極大簡(jiǎn)化模型開(kāi)發(fā)工作流程，給用戶帶來(lái)了前所未有的靈活度，將讓模型推理從“非A即B”的選擇達(dá)到成本與延遲的“微妙平衡”。

“對(duì)一個(gè)因素的優(yōu)化通常需要對(duì)另一個(gè)因素進(jìn)行妥協(xié)，這是因?yàn)槌杀竞晚憫?yīng)延遲與道德準(zhǔn)確性呈反比關(guān)系，因?yàn)楣δ芨鼜?qiáng)大、高度智能的模型會(huì)消耗更多的資源?！盨wami博士講述從客戶了解到的需求。而在更新的Bedrock上，新模型蒸餾功能，使得用戶可以將特定知識(shí)從更大、更準(zhǔn)確的模型轉(zhuǎn)移到更小、更高效的專業(yè)模型，使其速度提高500%，成本降低75%。

但是多元化的選擇，也難免面臨一些天然存在的競(jìng)合關(guān)系，比如亞馬遜云科技在向客戶提供模型市場(chǎng)、模型開(kāi)發(fā)平臺(tái)的同時(shí)，也推出了自己的基礎(chǔ)模型。不過(guò)，亞馬遜云科技一直以來(lái)都是開(kāi)放性的看待這種競(jìng)合關(guān)系。

對(duì)于亞馬遜云科技的模型策略，Andy Jassy做了這樣的回答：“我們一直以來(lái)的目標(biāo)就是為大家提供選擇，現(xiàn)實(shí)情況是，大家在不同的時(shí)間、出于不同的原因，都會(huì)使用不同的模型。

這其實(shí)反映了現(xiàn)實(shí)世界的運(yùn)行規(guī)律。就好比人類不會(huì)只找一個(gè)人去獲取各個(gè)領(lǐng)域的專業(yè)知識(shí)一樣，不同的人在不同的方面各有所長(zhǎng)。有時(shí)候大家會(huì)側(cè)重于優(yōu)化編碼，有時(shí)候關(guān)注數(shù)學(xué)，有時(shí)候看重與檢索增強(qiáng)生成（RAG）的集成，有時(shí)候聚焦智能需求，還有時(shí)候在意更低的延遲或成本問(wèn)題。大多數(shù)情況下，是各種因素的組合決定的。

在亞馬遜云科技，我們會(huì)為大家提供這些因素組合之后，滿足需求的選擇。我們認(rèn)為，最近又為這個(gè)組合增添了一些非常有趣的模型。好消息是，所有這些模型都能在Amazon Bedrock中使用，大家可以按照自己期望的任何組合去使用它們，進(jìn)行試驗(yàn)，并根據(jù)情況做出相應(yīng)的調(diào)整?！?/p>

可接受的成本

云計(jì)算的成本問(wèn)題，一直是Matt最為關(guān)心的問(wèn)題。

2018年，亞馬遜云科技曾經(jīng)做過(guò)一個(gè)瘋狂且頗具爭(zhēng)議的決定：開(kāi)發(fā)自己的芯片。即Amazon Graviton，以期在ARM內(nèi)核變得越來(lái)越快、越來(lái)越強(qiáng)大的背景下提供差異化價(jià)值?，F(xiàn)在，Amazon Graviton被幾乎每個(gè)亞馬遜云科技客戶廣泛使用。Amazon Graviton提供比x86高40%的性價(jià)比、減少60%的能源消耗，也極大縮減了云計(jì)算成本。

以圖片分享網(wǎng)站Pinterest為例。在轉(zhuǎn)向Amazon Graviton之前，Pinterest運(yùn)行著數(shù)千個(gè)x86實(shí)例來(lái)運(yùn)營(yíng)他們的業(yè)務(wù)。轉(zhuǎn)向Amazon Graviton之后，Pinterest將計(jì)算成本降低了47%，碳排放減少了62%?！八麄儾⒉还聠?，90%的前1000個(gè)Amazon EC2客戶都開(kāi)始使用Amazon Graviton?！盡att說(shuō)。

現(xiàn)在，生成式AI時(shí)代來(lái)了，當(dāng)下最大的計(jì)算問(wèn)題都與AI相關(guān)。雖然與NVIDIA有著長(zhǎng)達(dá)14年的合作關(guān)系（搭載NVIDIA新Blackwell芯片的Amazon EC2 P6服務(wù)器將于明年年初推出），也是NVIDIA的大型生成式AI集群場(chǎng)所，但GPU依然成了亞馬遜云科技為計(jì)算降本的新目標(biāo)：推出一款專為尖端生成式AI訓(xùn)練和推理這類高要求工作負(fù)載而設(shè)計(jì)的GPU。

會(huì)上，亞馬遜云科技最強(qiáng)Amazon EC2 Trn2計(jì)算實(shí)例發(fā)布。配備16個(gè)Trainium2芯片，一個(gè)Amazon EC2 Trn2實(shí)例可在單個(gè)計(jì)算節(jié)點(diǎn)提供20.8 petaflops的計(jì)算能力，Amazon EC2 Trn2實(shí)例提供比當(dāng)前GPU服務(wù)器高出30%到40%的性價(jià)比，這些芯片通過(guò)一種稱為NeuronLink的高帶寬、低延遲互連連接在一起。

AI大模型公司Anthropic聯(lián)合創(chuàng)始人兼首席計(jì)算官Tom Brown12月2日在re:Invent演講時(shí)當(dāng)場(chǎng)宣布，下一代的Claude模型將在Project Rainier上進(jìn)行訓(xùn)練，他表示這將是一個(gè)新的計(jì)算集群，擁有數(shù)十萬(wàn)個(gè)Amazon Tranium2芯片。優(yōu)化完成后，該集群預(yù)計(jì)將成為迄今為止世界上最大的AI計(jì)算集群，可供Anthropic構(gòu)建和部署其未來(lái)模型。

“數(shù)十萬(wàn)個(gè)芯片意味著數(shù)百個(gè)密集的億次浮點(diǎn)運(yùn)算，比我們?cè)?jīng)使用過(guò)的任何集群都多五倍以上。這意味著客戶將可以更低的價(jià)格、更快的速度獲得更多的智能。有了Amazon Tranium2 和Project Rainier，我們不僅僅是在構(gòu)建更快的人工智能，還在構(gòu)建可擴(kuò)展的、值得信賴的人工智能。”Tom Brown表示。

Andy Jassy在演講時(shí)也多次談及“成本”，他認(rèn)為當(dāng)生成式AI應(yīng)用程序達(dá)到一定規(guī)模時(shí)，計(jì)算成本的重要性就凸顯出來(lái)了，大家都迫切希望獲得更高的性價(jià)比，即既能控制好延遲，也要具備合理的成本結(jié)構(gòu)。據(jù)他觀察，從全球范圍來(lái)看，那些應(yīng)用AI最為成功的公司，主要體現(xiàn)在成本規(guī)避和生產(chǎn)力提升方面，而且很多公司在這兩方面都取得了進(jìn)展。但亞馬遜云科技的成本控制，是體現(xiàn)在整場(chǎng)的產(chǎn)品創(chuàng)新上，而非簡(jiǎn)單的價(jià)格。

需求導(dǎo)向，實(shí)用AI

如果一定要給亞馬遜云科技的AI戰(zhàn)略做一個(gè)定義，需求導(dǎo)向的實(shí)用AI或許更為精確。

“很多時(shí)候，人們用上不錯(cuò)的模型做了些工作，就以為打造出很棒的生成式AI應(yīng)用程序了，但實(shí)際上可能只完成了大概70%的工作，而客戶不會(huì)喜歡存在那30%問(wèn)題的應(yīng)用程序。”Andy Jassy表示。以亞馬遜自己為例，加入生成式AI這個(gè)“智慧大腦”之后，亞馬遜聊天機(jī)器人客戶滿意度提升了500個(gè)基點(diǎn)，“這就是實(shí)用AI的體現(xiàn)?！盇ndy Jassy說(shuō)。

客戶至尚和逆向工作法，是亞馬遜云科技DNA的一部分。亞馬遜云科技創(chuàng)業(yè)初期，由于合規(guī)性、審計(jì)、監(jiān)管、安全、加密等考量，大部分的銀行客戶表示愿意采用云計(jì)算，但稱可能永遠(yuǎn)不會(huì)上云。亞馬遜云科技沒(méi)有放棄這些金融客戶，而是接下來(lái)花了十年來(lái)解決銀行客戶清單上的每一個(gè)問(wèn)題?！敖裉欤液茏院赖卣f(shuō)，許多大型金融公司都是我們的客戶。因此，當(dāng)你在創(chuàng)新時(shí)，重要的是要記住，你真的要從客戶開(kāi)始。你要問(wèn)他們什么對(duì)他們重要，但你不僅僅是交付客戶要求的東西。你要為他們發(fā)明。”Matt說(shuō)。

AI時(shí)代也是同理：要為客戶發(fā)明好用的AI工具。

會(huì)上，Swami博士發(fā)布了新一代Amazon SageMaker。從功能上看，SageMaker AI與客戶的數(shù)據(jù)強(qiáng)相關(guān)，是一個(gè)集合了數(shù)據(jù)調(diào)用、數(shù)據(jù)分析、大模型訓(xùn)練的一站式平臺(tái)，定位上發(fā)生了重大的變化。

“許多客戶向我們反饋，他們的分析和AI工作負(fù)載越來(lái)越多地圍繞相同的數(shù)據(jù)和相同的工作流程進(jìn)行融合。這正在改變其對(duì)分析服務(wù)的看法，因?yàn)槭聦?shí)證明，他們不再僅僅孤立地使用分析和AI工具，他們正在使用歷史分析數(shù)據(jù)來(lái)訓(xùn)練機(jī)器學(xué)習(xí)模型，并且越來(lái)越多地將相同的數(shù)據(jù)納入其生成式AI應(yīng)用程序中?！盡att談及從一個(gè)客戶案例中獲得的啟發(fā)。這也不難理解，因?yàn)閿?shù)據(jù)才是企業(yè)的核心資產(chǎn)，才是差異化的競(jìng)爭(zhēng)力，而非模型，將企業(yè)絕對(duì)優(yōu)勢(shì)的數(shù)據(jù)和大模型整合在一個(gè)平臺(tái)上，才會(huì)有優(yōu)勢(shì)。