文｜動點科技
排版｜李瑞子
本文預計閱讀時長5分鐘
01
微軟報告稱 GPT-4 易受“越獄”提示詞影響，生成不良內容
微軟旗下研究團隊近日發表論文，詳細研究了大型語言模型 (LLM) 的“可信度”和潛在毒性，特別關注 OpenAI 的 GPT-4 及其前代 GPT-3.5。研究團隊稱，GPT-4 雖然在標準基準測試中比 GPT-3.5 更加可靠，但容易受到“越獄”提示（繞過模型安全措施）影響。GPT-4 可能會根據這些“越獄”提示，生成有害內容。論文中強調 GPT-4 更容易受到惡意“越獄”系統或用戶提示影響，會準確地遵循（誤導性）指令，生成不良內容，微軟強調這個潛在漏洞不會影響當前面向客戶的服務。
02
微軟正式發布 AI 內容審核工具 Azure AI Content Safety
微軟為了營造健康和諧的社區環境，減少圖片或文本中關于偏見、仇恨、暴力等相關的負面內容，于今年 5 月測試推出了 AI 內容審核工具 Azure AI Content Safety，該工具經過多月測試之后于今天正式發布。該內容審核工具最初整合到 Azure OpenAI 服務中，微軟現在以獨立系統方式正式推出。微軟在官方博文中寫道：“這意味著客戶可以將其用于來自開源模型和其他公司模型的人工智能生成內容，以及調用部分用戶生成的內容，進一步擴展實用性”。
03
金山辦公與科大訊飛在 AI 等領域達成戰略合作
金山辦公發文宣布與科大訊飛宣布達成戰略合作，雙方將在既有合作基礎上，繼續發揮各自技術和產品優勢，在數字辦公產品、行業解決方案、AI 大模型、開放能力集成等多維度展開深度合作。雙方將在智慧教育、智慧醫療、智慧園區、智慧城市等領域展開深度聯動。金山辦公主要產品月度活躍設備數超 5.84 億，此前雙方已就終端部署、語音能力、版權保護、教育服務等領域展開合作。據悉，目前已有超 35 萬教研用戶在金山辦公文檔中臺支持的科大訊飛 AI 教研平臺進行備課和協同研修工作。
04
IDC：未來五年生成式 AI 每年支出將增長 73%，預計 2027 年達 1430 億美元
據 IDC 消息，全球企業在 2023 年的投資額為 160 億美元，得益于 AI 風口，行業相關支出每年將平均增長 73.3%，2027 年企業將在生成式 AI 解決方案上花費 1430 億美元。IDC 認為，生成式 AI 并非“轉瞬即逝的趨勢或炒作”，事實上該技術將產生深遠的意義和商業影響，這項技術將改變人類的工作、娛樂和與世界互動的方式。IDC 認為，未來生成式 AI 將在各種產品中得到廣泛應用，當下有許多科技公司已經將 AI 整合到自家搜索產品中，而未來隨著更多大型語言模型的出現，對應的各種 AI 工具也將涌現。
05
英偉達與鴻�？萍脊步ˋI工廠，由工業富聯推進
英偉達與鴻�？萍脊餐�，雙方將合作建設人工智能工廠，并把AI工廠應用到各個產業。據了解，該合作主要通過鴻�？萍计煜伦庸竟I富聯推進。根據合作規劃，AI工廠系新型數據中心，可為創新提供動力，例如制造數字化和生成式AI服務。鴻海計劃建造大量基于英偉達CPU和GPU及其網絡技術的計算系統。這些系統將出售給希望建立AI數據工廠的客戶，并配備英偉達的硬件和英偉達AI Enterprise軟件。
06
OpenAI 聲稱正在開發可高精度檢測 AI 生成圖像工具
OpenAI正在開發一種工具，以高精度檢測人工智能生成的圖像。聊天機器人ChatGPT和圖像生成器DALL-E的制造商OpenAI的首席技術官Mira Murati周二在Tech Live會議上表示，OpenAI的工具在確定圖片是否使用人工智能生成方面“99%可靠”。她表示，在計劃公開發布之前，公司正在對其進行內部測試，但沒有具體說明時間表。
據了解，目前已經有少數工具聲稱可以檢測人工智能生成的圖像或其他內容，但這些工具的檢測結果似乎仍不夠準確。例如，OpenAI在1月份發布了一個類似的工具，旨在確定文本是否由人工智能生成的，但由于不可靠，該工具在7月份被擱置了。該公司表示，它正在努力改進該軟件，并致力于開發識別音頻或圖像是否由人工智能生成的方法。（智通財經）
