速途網(wǎng)5月19日訊(報(bào)道:?jiǎn)讨颈螅┙眨琈eta表示創(chuàng)建了一個(gè)用于編碼的生成AI工具,類似于GitHub的Copilot。
該公司在一次專注于其人工智能基礎(chǔ)設(shè)施工作的活動(dòng)中宣布了這一消息,包括定制芯片Meta為加速生成AI模型的訓(xùn)練而構(gòu)建的芯片但Meta表示,其團(tuán)隊(duì)在內(nèi)部使用它來(lái)獲取Python和其他語(yǔ)言的代碼建議,因?yàn)樗麄冊(cè)赩S Code等IDE中輸入。
“底層模型建立在Meta的公共研究之上,我們已經(jīng)針對(duì)內(nèi)部用例和代碼庫(kù)進(jìn)行了調(diào)整,”Meta的軟件工程師Michael Bolin在預(yù)先錄制的視頻中說(shuō)。“在產(chǎn)品方面,我們能夠?qū)?CodeCompose 集成到我們的開發(fā)人員或數(shù)據(jù)科學(xué)家處理代碼的任何界面中。
Meta 訓(xùn)練的幾個(gè) CodeCompose 模型中最大的一個(gè)有 6 億個(gè)參數(shù),略高于 Copilot 所基于的模型中參數(shù)數(shù)量的一半。參數(shù)是從歷史訓(xùn)練數(shù)據(jù)中學(xué)習(xí)的模型部分,本質(zhì)上定義了模型在問(wèn)題上的技能,例如生成文本。

CodeCompose對(duì)Meta維基的第一方代碼進(jìn)行了微調(diào),包括用Meta開發(fā)的編程語(yǔ)言Hack編寫的內(nèi)部庫(kù)和框架,因此它可以將它們納入其編程建議中。其基本訓(xùn)練數(shù)據(jù)集過(guò)濾了糟糕的編碼實(shí)踐和錯(cuò)誤,例如已棄用的API,以減少模型推薦有問(wèn)題的代碼片段的機(jī)會(huì)。
在實(shí)踐中,CodeCompose 會(huì)在用戶鍵入時(shí)提出注釋和導(dǎo)入語(yǔ)句等建議。系統(tǒng)可以完成單行代碼或多行代碼,可以選擇填寫整個(gè)大塊代碼。