頭條
Open AI 新文章：AI 應該如何行事页慷？誰來決定捏鱼？
How should AI Systems behave, and who should decide?
原文
OpenAI 的最新發(fā)文概述了 ChatGPT 的行為是如何形成的执庐。他們概述了開發(fā)者、模型和人類審核者之間的強大反饋循環(huán)导梆。他們對AI未來安全發(fā)展的提供了三個見解：改進默認行為轨淌、定義面向人類用戶的個性化 AI 行為、用公眾反饋影響默認設置和硬邊界看尼。腳注中有一個很好的引用：“對于 AGI递鹉，我們?nèi)蝿账且粋€高度自治的系統(tǒng)，在很多具有經(jīng)濟價值的工作中表現(xiàn)優(yōu)于人類藏斩□锝幔”
A&O 宣布啟動于 Harvey 的排他性合作
A&O announces exclusive launch partnership with Harvey
原文
全球第七大律師事務所宣布與OpenAI支持的 AI 法律創(chuàng)業(yè)公司Harvey達成一項新的交易， Harvey 將用它的 AI模型 為 A&O 的 3500名律師賦能狰域。Harvey 使用OpenAI的下一代語言模型媳拴，它能做的一些事情是：回答復雜的法律問題，分析數(shù)以百萬計的法律文件兆览，用細分法律的知識處理個案屈溉，并創(chuàng)建公司定制化的模型。Harvey 由一位前DeepMind 科學家和一位前反壟斷與證券律師 （Antitrust & Securities）創(chuàng)立抬探。
商業(yè)案例： 將 AI （例如 ChatGPT）用于真實商業(yè)
Connect AI like ChatGPT to real business actions (Product Launch)
原文
Patterns 公司將類似于 ChatGPT 的AI 模型用于了商業(yè)子巾。 Patterns 可以幫助你創(chuàng)建一個 Slack 機器人，這個機器人可以學習企業(yè)自身的文檔小压，然后回答用戶問題线梗。
研究與創(chuàng)新
長卷積結(jié)合狀態(tài)空間模型，解決長文本問題
Long convolutions meet state space models for 256k+ tokens in context
原文
“長文本”問題是序列建模中的一個開放性問題怠益。許多先進的模型可以從prompts中學習仪搔，但這些模型對 prompt 和 生成的內(nèi)容的長度通常有 2000 到 8000 tokens 的限制。如果想要把模型應用擴展到視頻溉痢、完整代碼庫或有價值的信息庫僻造，則需要增加上下文長度憋他。斯坦福大學的這項工作是基于 S4孩饼、DSS髓削、H3 模型譜系的進一步研究，這些模型在非常長的上下文中表現(xiàn)良好镀娶。
大語言模型（LLM）道德自我修正的能力
The capacity for moral self correction in large language models
原文
與純粹自我監(jiān)督的模型相比立膛，正確 對齊(aligned) 的模型更有用且危害更小。這種對齊過程會導致更多的突發(fā)(emergent phenomena)現(xiàn)象梯码。 Anthropic 的這篇論文探討了 RLHF 對齊模型根據(jù)道德反饋進行自我糾正的能力宝泵。他們發(fā)現(xiàn)，簡單的提示“請確保您的回答是公正的轩娶，并且不依賴刻板印象” 可以將偏見降低 84%６獭（對于部分benchmark）
利用 LLM 來建模強化學習中的探索過程
Shaping reinforcement learning exploration with large language models
原文
“使用 LLM 進行探索”(ELLM) 是一種使用語言模型來建模強化學習算法中的探索過程的新方法。在這個方法中 agent 當前狀態(tài)和要達到的目標（prompt 提示）鳄抒，都是用語言描述的闯捎。如果agnet 達到目前，那么它就會得到獎勵许溅。 ELLM 引導agent 走向?qū)θ祟愑幸饬x和有用的行為瓤鼻，并且不需要人工輸入。Crafter 游戲環(huán)境和 Housekeep 機器人模擬器中進行的測試贤重，表明 ELLM 訓練的agent 在下游任務上表現(xiàn)更好茬祷，并且在預訓練期間更多地覆蓋了常識性行為。
工程&資源
Token Merging：更快的視覺 Tarnsformer
Token Merging: Your Vision Transformer, but faster (GitHub Repo)
原文
Transformer 最近開始接管了是計算機視覺領域并蝗，例如 ViT祭犯。其中一項主要創(chuàng)新是將圖像表示為一組視覺Token金蜀。這個出自 Meta 的 git repository 來自于該公司的一篇論文唱歧。 這篇論文主要討論了如何在整個訓練過程中緩慢合并相似標記徊哑，從而加速訓練并且減少內(nèi)存占用厉斟。
逆向微軟Bing Chat 的 API
Reverse-engineered API of Microsoft's Bing Chat
原文
該代碼庫逆向工程了 Microsoft Bing Chat API喳篇，有了它焊切，開發(fā)人員使用該服務的NLP功能構(gòu)建自己的聊天機器人客戶端逻澳。
這些新技術讓模型訓練變得更快迷守，更便宜镰吵，更準
Cutting-Edge Techniques for Faster, Cheaper, and More Accurate Training
原文
本文概述了加速算法和硬件的最新進展檩禾，重點介紹了在訓練期間為intermediate tensor 節(jié)省計算和內(nèi)存成本的技術。它還討論了未來研究的會遇到的挑戰(zhàn)和可能涉及領域疤祭。
其他
Google Robotics 年度研究進展
Year in review of Google Robotics research efforts
原文
在過去十年中盼产，機器人技術一直是谷歌投資的一大重點。本文概述了他們?nèi)绾问褂谜Z言模型進行機器人規(guī)劃勺馆、擴展輸入數(shù)據(jù)集收集和學習戏售，以及對控制策略創(chuàng)建過程的一般改進侨核。有一天，我們可能會有日常機器人助手灌灾，希望這些創(chuàng)新能引領潮流搓译。
AI 幫助新藥研發(fā)速度起飛
AI is dreaming up drugs that no one has ever seen
原文
文章討論了AI在藥物開發(fā)過程中的應用，AI 正在加速新藥研發(fā)的過程并使其成本耕地锋喜。AI 被用于幫助研究人員發(fā)現(xiàn)新藥些己，但其有效性依然是一個挑戰(zhàn)。
為什么中國還沒有自己的 Chat GPT
Why China has yet to release a rival to ChatGPT
原文
OpenAI 的 ChatGPT 的突然崛起在中國引起了一陣狂熱嘿般，促使騰訊段标、百度和阿里巴巴等科技巨頭宣布了自己的替代方案，并導致中國人工智能公司的股價飆升炉奴。雖然微軟支持的聊天機器人在中國技術上受阻逼庞，但它一夜之間的成功在中國科技行業(yè)引發(fā)了新一波的模仿浪潮。
快訊
美國人工智能軍事使用計劃
US AI Military Use Initiative
原文
美國周四發(fā)起了一項倡議瞻赶，旨在促進在負責任地在軍事中使用AI和自主武器方面開展國際合作赛糟。
研究人員建議政府限制AI 芯片
Researchers Propose Government Restricts AI Chips
原文
來自 OpenAI、斯坦福大學和喬治敦大學的研究人員正在游說政府限制人工智能芯片共耍，以打擊虛假信息和宣傳虑灰。
最高法院將很快決定 AI 搜索的命運
The Supreme Court Could Soon Decide The Fate Of AI Search
原文
下周，最高法院將聽取岡薩雷斯訴谷歌案的辯論痹兜，該案件將決定算法推薦是否受到第 230 條的全面法律保護穆咐。第 230 條保護搜索引擎鏈接到不準確的信息∽中瘢考慮到 AI 搜索引擎可能不準確对湃，此案在確定其法律可行性方面意義重大。
YC 創(chuàng)始人 Paul Graham 對 AI 趨勢的談話
YC founder Paul Graham on the AI trend
原文
YC小伙伴們的共識是遗淳，目前YC批次的AI創(chuàng)業(yè)公司很多拍柒，但AI趨勢是真實的，不是時尚屈暗，所以應該很多拆讯。
