即刻App年轻人的同好社区
下载
如何快人一步生成吸引人的封面图
工作流 + LLM + 文生图模型 = 强无敌
LLM 使用了 Stepfun Prompt
文生图 使用了 CogView3
这个是 @莱森LysonOber 「运营一条龙」Workflow 的简化版
后话：在尝试在 Dify 里面接入 ImgRender 的时候，发现需要有公开访问的图片地址，但是在工作流里面目前几个文生图的模型似乎没有办法拿到公开的地址，所以我也顺便提交了一个 PR 修改了 CogView 的返回，这样可以拿到公开的图片地址。
工作流 + LLM + 文生图模型 = 强无敌
LLM 使用了 Stepfun Prompt
文生图 使用了 CogView3
这个是 @莱森LysonOber 「运营一条龙」Workflow 的简化版
后话：在尝试在 Dify 里面接入 ImgRender 的时候，发现需要有公开访问的图片地址，但是在工作流里面目前几个文生图的模型似乎没有办法拿到公开的地址，所以我也顺便提交了一个 PR 修改了 CogView 的返回，这样可以拿到公开的图片地址。
7 12
看了 Devin 的Z Potentials采访非常有启发。
Dosu 确实是一个非常不错的机器人产品。理念也非常简洁。
Do something useful.
之前 Devin 邮件里还问我知道 Z Potentials 吗。：）
维护了这么久的开源社区，有一个这样的机器人确实非常的好使，能减少一些工作量，有时候回答的还是非常不错的，而有时候也会胡说八道。
Dosu 确实是一个非常不错的机器人产品。理念也非常简洁。
Do something useful.
之前 Devin 邮件里还问我知道 Z Potentials 吗。：）
维护了这么久的开源社区，有一个这样的机器人确实非常的好使，能减少一些工作量，有时候回答的还是非常不错的，而有时候也会胡说八道。
0 00
维护开源社区的时候，看 Issue 的时候最想吐槽的就是中文 Issue，列出几个常见问题：
- 逻辑混乱
- 把内容写在 title 里面，超级长
- 程序员不知道格式化代码，日志直接复制进来，不用 md 语法
- 乱用 template，在 bug 上面问问题，在 fr 上面也问问题
- template 上面 checklist check 了但不看
- 没有日志，有也是一个截图
- 没有礼貌，上来就是问，有些基础的问题也不先 Google 一下，或者 GPT 问问
- 逻辑混乱
- 把内容写在 title 里面，超级长
- 程序员不知道格式化代码，日志直接复制进来，不用 md 语法
- 乱用 template，在 bug 上面问问题，在 fr 上面也问问题
- template 上面 checklist check 了但不看
- 没有日志，有也是一个截图
- 没有礼貌，上来就是问，有些基础的问题也不先 Google 一下，或者 GPT 问问
6 32
- 企业中对于 GenAI 的预算在增加
- 在降本增效的方面，对于减少客服的开支，任然是目前非常关注的点
- 衡量 ROI 仍然是企业本身在寻找的目的，短期之内在快速的探索，并且寻找可以量化回报的最佳指标，未来 ROI 会变得更加重要
- 实施和扩展 GenAI 需要合适的技术人才，但是企业内部并不具备这样的人才，仅仅使用 API 并不能解决问题，Workflow 任然是非常关键的一部分，模型成本可能只有¼，因此一些 LLMOps 会被一些创业公司所接受
- 企业正在朝多模型，开源的方向发展，单个模型容易被绑定，同时也可以更好的平衡成本，性能，规模之间的关系，快速利用开源领域的进步，这三点对于领导来说尤为看重，因为模型榜单是动态的。而更快速的替换并且使用最新的是领导更希望看到的。
- 成本并不是主要的关注点，定制和控制是企业更加关注的，GenAI 本身所带来的超额价值可能会远远超过其价格。
- 出于监管或数据安全方面的考虑，企业仍然不愿意与闭源模型提供商共享其专有数据，不出所料，知识产权对其商业模式至关重要的公司尤其保守。虽然一些领导者通过自己托管开源模型来解决这个问题，但其他人指出，他们正在优先考虑具有虚拟私有云 （VPC） 集成的模型。
- 2023 年，出于安全原因，许多企业通过其现有的云服务提供商 （CSP） 购买了模型——领导者比 CSP 更关心闭源模型对数据处理不当——并避免冗长的采购流程。2024 年仍然如此，这意味着 CSP 和首选模型之间的相关性相当高：Azure 用户通常更喜欢 OpenAI，而亚马逊用户更喜欢 Anthropic 或 Cohere。如下图所示，在使用 API 访问其模型的 72% 的企业中，超过一半的企业使用其 CSP 托管的模型。（请注意，超过四分之一的受访者确实是自托管的，可能是为了运行开源模型。
- 虽然大部分技术社区都专注于将模型性能与公共基准进行比较，但企业领导者更专注于将微调的开源模型和微调的闭源模型的性能与他们自己的内部基准集进行比较。有趣的是，尽管闭源模型通常在外部基准测试中表现更好，但企业领导者仍然为开源模型提供了相对较高的 NPS（在某些情况下甚至更高），因为它们更容易针对特定用例进行微调。一家公司发现，“经过微调，Mistral 和 Llama 的性能几乎与 OpenAI 一样好，但成本要低得多。按照这些标准，模型性能的收敛速度比我们预期的要快，这为领导者提供了更广泛的非常有能力的模型可供选择。
- 大多数企业都在设计他们的应用程序，以便在模型之间切换只需要更改 API。一些公司甚至在对提示进行预测试，以便只需轻按开关即可进行更改，而另一些公司则构建了“模型花园”，他们可以根据需要将模型部署到不同的应用程序。公司之所以采用这种方法，部分原因是他们从云时代吸取了一些惨痛的教训，即需要减少对供应商的依赖，部分原因是市场发展如此之快，以至于对单一供应商的承诺是不明智的。
- 在降本增效的方面，对于减少客服的开支，任然是目前非常关注的点
- 衡量 ROI 仍然是企业本身在寻找的目的，短期之内在快速的探索，并且寻找可以量化回报的最佳指标，未来 ROI 会变得更加重要
- 实施和扩展 GenAI 需要合适的技术人才，但是企业内部并不具备这样的人才，仅仅使用 API 并不能解决问题，Workflow 任然是非常关键的一部分，模型成本可能只有¼，因此一些 LLMOps 会被一些创业公司所接受
- 企业正在朝多模型，开源的方向发展，单个模型容易被绑定，同时也可以更好的平衡成本，性能，规模之间的关系，快速利用开源领域的进步，这三点对于领导来说尤为看重，因为模型榜单是动态的。而更快速的替换并且使用最新的是领导更希望看到的。
- 成本并不是主要的关注点，定制和控制是企业更加关注的，GenAI 本身所带来的超额价值可能会远远超过其价格。
- 出于监管或数据安全方面的考虑，企业仍然不愿意与闭源模型提供商共享其专有数据，不出所料，知识产权对其商业模式至关重要的公司尤其保守。虽然一些领导者通过自己托管开源模型来解决这个问题，但其他人指出，他们正在优先考虑具有虚拟私有云 （VPC） 集成的模型。
- 2023 年，出于安全原因，许多企业通过其现有的云服务提供商 （CSP） 购买了模型——领导者比 CSP 更关心闭源模型对数据处理不当——并避免冗长的采购流程。2024 年仍然如此，这意味着 CSP 和首选模型之间的相关性相当高：Azure 用户通常更喜欢 OpenAI，而亚马逊用户更喜欢 Anthropic 或 Cohere。如下图所示，在使用 API 访问其模型的 72% 的企业中，超过一半的企业使用其 CSP 托管的模型。（请注意，超过四分之一的受访者确实是自托管的，可能是为了运行开源模型。
- 虽然大部分技术社区都专注于将模型性能与公共基准进行比较，但企业领导者更专注于将微调的开源模型和微调的闭源模型的性能与他们自己的内部基准集进行比较。有趣的是，尽管闭源模型通常在外部基准测试中表现更好，但企业领导者仍然为开源模型提供了相对较高的 NPS（在某些情况下甚至更高），因为它们更容易针对特定用例进行微调。一家公司发现，“经过微调，Mistral 和 Llama 的性能几乎与 OpenAI 一样好，但成本要低得多。按照这些标准，模型性能的收敛速度比我们预期的要快，这为领导者提供了更广泛的非常有能力的模型可供选择。
- 大多数企业都在设计他们的应用程序，以便在模型之间切换只需要更改 API。一些公司甚至在对提示进行预测试，以便只需轻按开关即可进行更改，而另一些公司则构建了“模型花园”，他们可以根据需要将模型部署到不同的应用程序。公司之所以采用这种方法，部分原因是他们从云时代吸取了一些惨痛的教训，即需要减少对供应商的依赖，部分原因是市场发展如此之快，以至于对单一供应商的承诺是不明智的。
3 00
没想到rails 还有人 感动
白宦成: 当我埋的彩蛋被人发现后（
0 00
