10 AMAZING Llama 3.1 Automations (Fireworks API + Make)
👉 Get all of our make.com templates here (including these ones): https://www.theaiautomators.com/?utm_source=youtube&utm_medium=video&utm_campaign=tutorial&utm_content=llama_auto
In this video I put the new Meta Llama 3.1 models to the test by having them power 10 AI Automations. I then compare the 405B, 70B and 8B models results side-by-side.
Meta Llama 3.1 - https://llama.meta.com/
Fireworks - https://fireworks.ai/
Firecrawl URL - https://www.firecrawl.dev/
Supabase URL - https://supabase.com/
0:00 - Overview of Lama 3.1 models
0:14 - Test scenarios overview
0:47 - API options and costs
1:17 - Llama model pricing comparison
2:01 - Fireworks AI
2:21 - PowerPoint generation
5:32 - Web scraping
9:39 - Large documents
12:42 - Blog article generation
15:36 - Database reports
18:43 - Sentiment analysis
22:15 - Text summarization
24:12 - System message test
24:56 - Prompt injection test
25:31 - Verdict
Tested on Make.com, the automations include generating Python code and a Powerpoint Presentation, generating SQL queries, structured data extraction, text generation, text summarization, text classification, sentiment analysis while also testing for prompt injections.
社交媒体聆听
生成AIが「幻滅期」突入と報じられ、それでも進化は止まらず、来年発売の家庭用ヒューマノイドロボットの動きにちょっとした感動を覚えた一週間(2024年9月6日配信版)
0:53 (1)今週のトピック紹介 2:40 (2)勝負はGPT-5ではなく「GPT-6」!? 他の追随を許さないOpenAIの開発計画 8:00 (3)生成AIは幻滅期!? ガートナーがハイプサイクルレポートを発表 13:06 (4)注目インタビュー:Arvind Narayanan教授(プリンストン大学) 33:49 (5)エネルギーが無料になる!? 37:20 (6)コンテキストウィンドウ「1億トークン」の時代がやってきた 41:58 (7)AIの推論レスポンスが爆発的に上がってきている 43:49 (8)リアルタイムゲームエンジンが早々に登場してきた 47:06 (9)Llamaのダウンロード数が3億5,000万回に迫っているらしい 49:53 (10)いよいよ来年発売!家庭用ヒューマノイドロボットの動きがリアルすぎる 56:41 (11)AI間の仮想通貨取引が観測される ◆各トピック (1)今週のトピック紹介 (2)勝負はGPT-5ではなく「GPT-6」!? 他の追随を許さないOpenAIの開発計画 ・次世代GPT-5は「Strauberry」という開発コード名で開発中で、その次の世代のGPT-6が「Orion」という開発コード名 ・GPT-5はチャットボット形式と、SLM(小規模言語モデル)のみ公開。GPT-5のLLMは一般公開せず(他者に真似されるから?)、GPT-6(Orion)の学習データを合成するためにのみ利用するとのこと (3)生成AIは幻滅期!? ガートナーがハイプサイクルレポートを発表 ・「AIは膨張した期待のピークを超えた。企業はLLMに対する興奮から冷め、費用対効果を重視したユースケースに関心が移行している」 ・RAGがいまいち使えない、投資がなかなか回収できない、わかりやすいユースケースが要約くらい等の要因が考えられる (4)注目インタビュー:Arvind Narayanan教授(プリンストン大学) ・ビットコインには幻滅した。ブロックチェーンという技術は良いが、問題は別のところにあった。またクリプトコミュニティの哲学的な側面も、正しいとは思えなかった。AIにはマイナス面もあるが、プラス面の方が大きい ・製品を作るのではなく超知能の実現にベクトルが向いていたのが間違いだったのではないか ・スケール則は続かない派。GPT-4からGPT-5への進化は、GPT-3からGPT-4への進化に匹敵するぐらいのジャンプになるのかと言えば、そんなことはないと思う ・YouTubeの1,500億時間の動画データはそこまで貴重なものではない ・合成データは使い方次第。質を高めないままの量を追求した合成データは、AIの進化には寄与しないだろう ・企業内エージェントの課題とは ・なぜAI業界はSLMにシフトしているのか ・指数関数グラフは、実はS字カーブになる ・AIモデルはベンチマークでいい結果を出すようにだけ調整されるので、ベンチマークにない問題にはうまく対応できない可能性がある ・AIが賢くなったのは、計算資源、効率化、unhobblingが原因 ・AGIの定義:経済的価値のあるほとんどのタスクの自動化が可能なAI (5)エネルギーが無料になる!? ・DeepMindの新AIモデル「GNoME」が、超伝導の可能性のある新素材を5万2000種類、リチウムイオン導体になる可能性のある新素材528種類を発見 ・こうした発見を含む安定した結晶を42万1000種類発見しているし。人類は過去10年間に通常の実験で2万個しか安定結晶の新素材を発見していないことを考えれば、すごい快挙 ・ちなみに、カリフォルニア州では化石燃料なしで電力需要を賄える実証実験中 (6)コンテキストウィンドウ「1億トークン」の時代がやってきた ・ソフトウェア開発AIを手がけるMagic社が、1億トークンという超ロングコンテキストを処理できるモデル「LTM-2-mini」を開発 ・プログラム1,000万行程度を入れることができるトークン数 ・ロングコンテキスト vs RAG。コストや用途での使い分けか (7)AIの推論レスポンスが爆発的に上がってきている ・2月にGroqが登場。Mixtral8x7Bで1秒に450トークンの情報を表示し話題に。5月にFireworks.aiが開発したCursorが1000トークンで新記録を達成。そしてこのほど、CerebrasがLlama3.1-8Bで1800トークンという数字を叩き出した。 (8)リアルタイムゲームエンジンが早々に登場してきた ・NVIDIA社長・Jen-Hsun Huang氏が10年以内にできる、と言った技術がすでに実現に近くなってきている ・ニューラル・モデルのみで構成されたゲームエンジン「GameNGen」 ・映画のワンシーンのような映像も生成可能になってきた (9)Llamaのダウンロード数が3億5,000万回に迫っているらしい ・2024年7月だけでも2,000万回以上のダウンロード ・日本でも野村ホールディングスがAWS上でLlamaを利用しているとのこと (10)いよいよ来年発売!家庭用ヒューマノイドロボットの動きがリアルすぎる ・ノルウェーの1X Technologies社(旧Halodi Robotics)が、家庭用に設計されたヒューマノイドロボット「NEO Beta」を発表 ・「家庭に入ることが前提だから、危なくないことを大前提に設計」とCEOが発言。10年前から家庭用を前提に研究開発を進めてきた ・早ければ2025年に出荷開始し、2026年くらいまでにデータを集めながら本当に使えるロボットにして、2027年くらいから製造業、サービス業、倉庫などに広く展開。2030年までに、数十億台規模の製造体制構築といった構想 (11)AI間の仮想通貨取引が観測される ・情報空間におけるAI×クリプト(暗号資産)はビジネスのフロンティア ・AIエージェントは銀行口座を持てないが、AIのためのウォレットは作れる ◆対談者情報 [遠藤 太一郎] 株式会社カナメプロジェクト CEO 国立大学法人東京学芸大学 教育AI研究プログラム 准教授 AI歴25年。18歳からAIプログラミングを始め、米国ミネソタ大学大学院在学中に起業し、AIを用いたサービス提供を開始。AIに関する実装、論文調査、システム設計、ビジネスコンサル、教育等幅広く手がけた後、AIスタートアップのエクサウィザーズに参画し、技術専門役員としてAI部門を統括。上場後、独立し、現在は株式会社カナメプロジェクトCEOとして様々なAI/DAO/データ活用/DX関連のプロジェクトを支援する。国際コーチング連盟ACC/DAO総研 Founder等 https://kaname-prj.co.jp/ [湯川 鶴章] 株式会社エクサウィザーズ AI新聞 編集長 米カリフォルニア州立大学サンフランシスコ校経済学部卒業。サンフランシスコの地元紙記者を経て、時事通信社米国法人に入社。シリコンバレーの黎明期から米国のハイテク産業を中心に取材を続ける。通算20年間の米国生活を終え2000年5月に帰国。時事通信編集委員を経て2010年独立。2017年12月から現職。主な著書に『人工知能、ロボット、人の心。』(2015年)、『次世代マーケティングプラットフォーム』(2007年)、『ネットは新聞を殺すのか』(2003年)などがある。趣味はヨガと瞑想。妻が美人なのが自慢。 https://community.exawizards.com/aishinbun/
10 AMAZING Llama 3.1 Automations (Fireworks API + Make)
👉 Get all of our make.com templates here (including these ones): https://www.theaiautomators.com/?utm_source=youtube&utm_medium=video&utm_campaign=tutorial&utm_content=llama_auto In this video I put the new Meta Llama 3.1 models to the test by having them power 10 AI Automations. I then compare the 405B, 70B and 8B models results side-by-side. Meta Llama 3.1 - https://llama.meta.com/ Fireworks - https://fireworks.ai/ Firecrawl URL - https://www.firecrawl.dev/ Supabase URL - https://supabase.com/ 0:00 - Overview of Lama 3.1 models 0:14 - Test scenarios overview 0:47 - API options and costs 1:17 - Llama model pricing comparison 2:01 - Fireworks AI 2:21 - PowerPoint generation 5:32 - Web scraping 9:39 - Large documents 12:42 - Blog article generation 15:36 - Database reports 18:43 - Sentiment analysis 22:15 - Text summarization 24:12 - System message test 24:56 - Prompt injection test 25:31 - Verdict Tested on Make.com, the automations include generating Python code and a Powerpoint Presentation, generating SQL queries, structured data extraction, text generation, text summarization, text classification, sentiment analysis while also testing for prompt injections.
Llama 3 tool calling agents with Firefunction-v2
Firefunction-v2 is a new open weights model from Fireworks fine-tuned specifically for tool calling. Built on Llama 3 70b, Firefunction-v2 retains strong instruction following capabilities with tool calling on par with gpt4-o! We show how to use this model and, importantly, benchmark its tool calling ability for yourself. We test Firefunction-v2 on a small SQL agent challenge, which shows performance on par with gpt4-o. Using Fireworks: https://python.langchain.com/v0.2/docs/integrations/chat/fireworks/ Firefunction-v2 blog: https://fireworks.ai/blog/firefunction-v2-launch-post Agent evaluation cookbook: https://github.com/langchain-ai/langsmith-cookbook/blob/main/testing-examples/agent-evals-with-langgraph/langgraph_sql_agent_eval.ipynb Agent evaluation video: https://youtu.be/NbQKDfSw3gM
总共有 47 条社交媒体数据需要解锁才能查看