新しいポッドキャスト 🔥 誰も制御できないAIを作っている - コナー・リー エピソードはこちらでご覧いただけます: 🎙️ 本日のポッドキャストでは、EleutherAIの創設者であり、現在のAI開発に対して最も率直な批判者の一人である@NPCollapse氏に話を伺い、私たちが制御できない超知能の形態に向かって急速に進んでいるのではないかを探ります。オープンソースモデル構築の経験を活かし、コナーはAGI、アライメント問題、そして人間よりも知能の高いシステムを作る現実的なリスクについて考察しています。議論はエージェントの自律性、ニューラルネットワークの不透明性、オープンソースコードの普及、そして安全性よりもスピードを優先する競争におけるOpenAIやMetaのような企業の役割について深く掘り下げています。また、ガバナンス、規制、超知能が文明に与える影響についても議論します。

📁 Google BrainのAIパイオニアで共同創業者のアンドリュー・ン氏は、ほとんどの高次元データは見た目よりもシンプルだと言います。 10,000次元のデータセットは、しばしばはるかに小さな部分空間に存在します。 最初に圧縮すれば、学習はより速く、安価で効率的になります。 時には、知性がそれ以上のものを加えていないこともあります。賢明に減らしています

📁 OpenAIのCEOサム・アルトマン氏は、情報収集コストがわずか18か月で1000倍に下がったと述べています。 そのようなデフレはほとんど起こりません。 もし知能がどんどん安くなれば、それは希少ではなくなる。 そして、情報がもはや不足しなくなると、経済のルールも変わります。