代理 AI 在医疗保健领域的法律影响：数据不准确或有偏见的可能性（第 2 部分，共 3 部分）

快速阅读: 据《富而德 Bruckhaus Deringer》最新报道，代理型AI在医疗中的应用面临数据偏差和不准确的挑战，可能导致不公平的结果。开发者应定期审查模型、更新数据集、与专业人士合作并评估风险。医疗组织需确保合同中包含责任条款，共同推动AI技术安全可靠地造福人类。

阅读本迷你系列的第一部分，请在此处点击。

**数据不准确或有偏见的可能性**
用于构建代理型人工智能应用的数据集中存在的不准确或偏见，带来了法律和道德上的挑战。代理型人工智能应用，包括那些用于临床决策的应用，严重依赖大型数据集来训练模型。如果这些数据集不完整、代表性较低或包含固有的偏见，底层的人工智能模型可能会延续甚至加重现有的医疗保健差异。例如，有偏见的数据可能导致对某些人口群体的预测不准确，特别是那些在临床研究中代表性较低的群体，从而导致不平等的医疗结果。这种问题因某些人工智能模型的“黑箱”特性而更为复杂，因为即使是开发者也可能难以解释某些决定是如何做出的。这些挑战引发了人们对代理型人工智能在关键医疗决策中的可靠性的担忧，以及由不准确或有偏见的输入可能造成的潜在危害，强调了确保公平、透明和准确的重要性。

**实用建议**
从事代理型人工智能应用开发的人工智能开发者，特别是在医疗保健领域的开发者，可以优先考虑构建不仅技术上稳健而且没有偏见的模型。以下是一些开发人员可以采取的实际方法来减轻不准确或偏见的风险：

1. **定期审查和更新模型**
定期审查和更新其人工智能模型，以降低算法偏见的风险。通过不断优化模型，使其能够更好地适应新数据并避免历史偏见的影响。

2. **采用数据治理技术**
采用数据治理技术，确保用于训练的数据集能涵盖更广泛的人群。例如，可以通过增加多样化的样本来源或引入补充数据集来弥补现有数据的不足。

3. **与医疗专业人员合作**
与医疗专业人员合作，确保人工智能系统符合临床标准和现实实践。通过这种方式，可以验证模型是否在真实场景中具备适用性和可靠性。

4. **开展全面的风险评估**
开展全面的风险评估，评估由有偏见或不准确的人工智能预测可能带来的潜在危害，并实施策略来尽量减少此类危害。例如，建立备用协议，若人工智能系统未能按预期运作，能够及时介入并提供替代方案。

**医疗保健组织的责任**
医疗保健组织和其他与人工智能开发者签订合同的公司，可以通过以下方式减轻因不准确或有偏见的数据引发的合同责任：

– 要求开发者确保其数据集的准确与公平，并实施定期审计和更新机制。
– 对因错误的人工智能推荐导致的任何不良后果负责，包括规定纠正措施或提供补偿条款，若人工智能系统未能达到约定的性能标准。

对于受《人工智能法》约束的公司，虽然缺乏关于合同责任的法定规定，但仍需在涉及人工智能系统的合同中制定定制的责任框架。尽管《人工智能法》对提供者和开发者施加了义务，包括在人工智能系统的伦理、透明和问责创建方面的义务，但合同双方可以重新分配责任（例如寻求赔偿以应对不合规），或进一步指定特定任务的责任。然而，这样的协议不得违反《人工智能法》下的法定义务。此外，这样的协议应明确各方对人工智能输出的所有权及使用权、对这些输出的知识产权侵权的责任及其他相关风险考量，以便考虑到与人工智能系统签约所引发的关键风险的全部范围。

最终，无论是开发者还是使用者，都需要以高度的责任感对待人工智能技术的发展与应用，确保其在医疗领域的每一项进展都能为人类带来福祉，而非隐患。

(以上内容均由Ai生成)