Not Diamond：将每个请求路由到最佳的 LLM，以优化成本、延迟和性能

Not Diamond：将每个请求路由到最佳的 LLM，以优化成本、延迟和性能

Not Diamond 人工智能模型路由器，它在主要基准测试中超越了所有现有的基础模型，同时显著降低了成本和延迟。该路由器可以直接使用，也支持用户使用自己的评估数据训练定制路由器，以适应特定用例。Not Diamond 支持快速选择最合适的模型，并能够在流传一个Token的时间内完成选择。此外，它还支持联合提示优化，消除了手动调整和实验的需要。