llm

大模型+多模態(tài)的3種實(shí)現(xiàn)方法

我們知道，預(yù)訓(xùn)練LLM已經(jīng)取得了諸多驚人的成就， 然而其明顯的劣勢(shì)是不支持其他模態(tài)（包括圖像、語(yǔ)音、視頻模態(tài)）的輸入和輸出，那么如何在預(yù)訓(xùn)練LLM的基礎(chǔ)...

2023-12-13 標(biāo)簽：編碼器GPT大模型 1789 0

Ambarella展示了在其CV3-AD芯片上運(yùn)行LLM的能力

Ambarella前不久展示了在其CV3-AD芯片上運(yùn)行LLM的能力。這款芯片是CV3系列中最強(qiáng)大的，專為自動(dòng)駕駛設(shè)計(jì)。

2023-11-28 標(biāo)簽：處理器機(jī)器人LPDDR5 1864 0

被OpenAI帶火的Agent如何解放人力？

在歷史的長(zhǎng)河中，自動(dòng)化是人類技術(shù)發(fā)展的主要?jiǎng)恿?，幫助人類從?fù)雜、危險(xiǎn)、繁瑣的勞動(dòng)環(huán)境中解放出來(lái)。自早期農(nóng)業(yè)時(shí)代的水車灌溉，到工業(yè)時(shí)代的蒸汽機(jī)，人類一直在...

2023-11-25 標(biāo)簽：機(jī)器人pythonJSON 1068 0

人工智能在大規(guī)模生物攻擊中的操作風(fēng)險(xiǎn)

人工智能（AI）的快速發(fā)展對(duì)多個(gè)領(lǐng)域產(chǎn)生了深遠(yuǎn)的影響，包括其在先進(jìn)生物武器開發(fā)中的應(yīng)用潛力。這種應(yīng)用引起了特別的關(guān)注，因?yàn)樗梢员环菄?guó)家實(shí)體和個(gè)人訪問(wèn)。...

2023-11-23 標(biāo)簽：AI人工智能語(yǔ)言模型 808 0

LLMs實(shí)際上在假對(duì)齊！

LLM的訓(xùn)練分為預(yù)訓(xùn)練和安全訓(xùn)練。預(yù)訓(xùn)練是指在大規(guī)模語(yǔ)料庫(kù)上進(jìn)行訓(xùn)練，因此LLM獲得了各種強(qiáng)大的能力，如文本生成、推理和主題知識(shí)等。安全訓(xùn)練使用有監(jiān)督的...

2023-11-20 標(biāo)簽：模型數(shù)據(jù)集LLM 1070 0

用LLM生成反駁：首先洞察審稿人的心理，再巧妙回應(yīng)！

同行評(píng)審對(duì)于確?？茖W(xué)的高質(zhì)量至關(guān)重要：作者提交研究成果，而審稿人則辯論應(yīng)不應(yīng)該接受其發(fā)表。通常評(píng)審后還會(huì)有一個(gè)反駁階段。在這里，作者有機(jī)會(huì)通過(guò)反駁論點(diǎn)來(lái)...

2023-11-16 標(biāo)簽：數(shù)據(jù)集自然語(yǔ)言處理LLM 845 0

英偉達(dá)推出新款A(yù)I芯片H200 性能飆升90%但是估計(jì)依然被出口管制

生成式AI火爆全球之后，英偉達(dá)的AI芯片一張難求，就在英偉達(dá)重量級(jí)選手H100 AI芯片目前依然是一貨難求的情況下，英偉達(dá)推出新款A(yù)I芯片H200。 H...

2023-11-14 標(biāo)簽：英偉達(dá)AI芯片LLM 1634 0

【FlashAttention-V4，非官方】FlashDecoding++

圖b所示，F(xiàn)lashAttention和FlashDecoding對(duì)softmax操作進(jìn)行了分塊處理，但是塊與塊之間需要進(jìn)行同步（主要是局部最大值）。本...

2023-11-14 標(biāo)簽：數(shù)據(jù)gpuLLM 1075 0

大模型在軟件研發(fā)中發(fā)揮哪些作用？

下面我們看一下大家對(duì)大模型（LLM）的態(tài)度，絕大多數(shù)（68.7%）是擁抱LLM，關(guān)注、開始使用或積極使用LLM的，說(shuō)明但也有1/4的團(tuán)隊(duì)或公司處在觀望中...

2023-11-12 標(biāo)簽：go語(yǔ)言大模型LLM 1225 0

港中文賈佳亞團(tuán)隊(duì)聯(lián)手MIT發(fā)布超長(zhǎng)文本擴(kuò)展技術(shù)，打破LLM遺忘魔咒

它代表著業(yè)界對(duì)長(zhǎng)文本大語(yǔ)言模型的重新思考和關(guān)注，有效擴(kuò)展了大語(yǔ)言模型的上下文窗口，允許模型考慮和處理較長(zhǎng)的文本序列，是大語(yǔ)言模型的革新性發(fā)明。

2023-10-18 標(biāo)簽：語(yǔ)言模型數(shù)據(jù)集LLM 669 0

探索ChatGLM2在算能BM1684X上INT8量化部署，加速大模型商業(yè)落地

1.背景介紹在2023年7月時(shí)我們已通過(guò)靜態(tài)設(shè)計(jì)方案完成了ChatGLM2-6B在單顆BM1684X上的部署工作，量化模式F16，模型大小12GB，平均...

2023-10-10 標(biāo)簽：模型編譯器LLM 3864 0

計(jì)算機(jī)視覺走向何方？參會(huì)ICCV的一些感想

最后，可能大家從上面一段論述中也已經(jīng)能感覺出來(lái)了，許多大佬們正把embodied AI作為一個(gè)最終的目標(biāo)。Antonio Torralba給了一個(gè)很有意...

2023-10-08 標(biāo)簽：計(jì)算機(jī)視覺數(shù)據(jù)集LLM 765 0

AIGC移動(dòng)端也有機(jī)會(huì)

a16z是硅谷一家有名的投資機(jī)構(gòu)，近期發(fā)布了他們根據(jù)月瀏覽量統(tǒng)計(jì)的TOP50 GenAI產(chǎn)品，并給出了一些洞見。臨近23年末尾，今天我們就來(lái)一起看看目前...

2023-09-26 標(biāo)簽：移動(dòng)端ChatGPTAIGC 891 0

虹科分享 | 谷歌Vertex AI平臺(tái)使用Redis搭建大語(yǔ)言模型

基礎(chǔ)模型和高性能數(shù)據(jù)層這兩個(gè)基本組件始終是創(chuàng)建高效、可擴(kuò)展語(yǔ)言模型應(yīng)用的關(guān)鍵，利用Redis搭建大語(yǔ)言模型，能夠?qū)崿F(xiàn)高效可擴(kuò)展的語(yǔ)義搜索、檢索增強(qiáng)生成、...

2023-09-18 標(biāo)簽：AI語(yǔ)言模型LLM 691 0

特斯拉前AI總監(jiān)Andrej Karpathy：大模型有內(nèi)存限制，這個(gè)妙招挺好用！

為了讓大家更好的理解 Karpathy 的內(nèi)容。我們先介紹一下「Speculative decoding」方法，對(duì)后續(xù)理解更加有益，其主要用于加速大模型...

2023-09-04 標(biāo)簽：AIOpenAI大模型 807 0

使用模塊化、OpenUSD的Omniverse加速3D工作流程

最新的 NVIDIA Omniverse 版本可基于 Omniverse Kit 105 套件提供一系列令人振奮的新功能，使開發(fā)者能夠更加輕松地開始構(gòu)建...

2023-08-28 標(biāo)簽：編碼器存儲(chǔ)器連接器 1223 0

Meta發(fā)布一款可以使用文本提示生成代碼的大型語(yǔ)言模型Code Llama

今天，Meta發(fā)布了Code Llama，一款可以使用文本提示生成代碼的大型語(yǔ)言模型（LLM）。

2023-08-25 標(biāo)簽：PHPpythonGPU芯片 1556 0