模型被恶意操作

• 在金融场景中，攻击者可能通过精心设计的提示词诱导大模型输出敏感、虚假或违规内容，从而干扰模型的正常行为。例如，通过嵌入隐藏指令或上下文混淆，引导模型泄露内部信息或生成错误判断，带来合规、道德乃至法律风险。这类攻击隐蔽性强，对金融领域高安全要求构成直接威胁。

生成幻觉内容

• 大模型在处理金融数据和财经资讯时，可能出现幻觉现象，即在缺乏真实依据的情况下生成看似合理但实际上错误的信息。这在投研分析、财务报告解析、舆情应对等环节中，容易误导投资者和从业者，进而影响决策质量，放大金融风险，特别是在高频交易或敏感市场判断中尤为致命。

决策过程不可信

• 金融行业对决策过程的可追溯性和可审计性有严格要求，但当前大模型在输出判断和建议时，往往难以提供清晰的推理路径或理由，导致黑箱决策问题。这不仅影响监管部门对模型行为的监管能力，也降低了从业人员和客户对模型输出结果的信任程度，阻碍其在关键业务中的广泛应用。