realme新机通过无线电核准，预计为线 Ultra相机大升级！2亿像素长焦支持10倍变焦

  游戏场景的智能助手来了！开源大模型 VideoGameBunny 让你玩得更嗨

  Cursor开源平替来了！AI编程工具Melty让编程效率提升 10 倍

  OpenAI成为台积电新款1.6nm芯片主要客户，计划于2026年投产

  MiniMax大模型日均与用户交互30亿次 将发布多模态模型abab7

  敦煌放妻书走红网络，扫描全能王AIGC“黑科技”助力敦煌遗书数字化传承

  FLUX.1-dev-LoRA: 令人惊艳的混合现实与插画风格的图像生成模型

  红魔电竞平板关键参数出炉：10.9英寸高刷屏 首发骁龙8 Gen3领先版

  随着世界各个国家/地区纷纷制定人工智能相关法规，设计基于AI的系统的工程师一定要满足这些新出台的规范和标准要求。在2023年10 月 30 日，美国白宫也颁布了一项关于人工智能法规的行政命令，强调稳健的验证和确认(V&V)过程对基于AI的系统至关重要。该指令要求人工智能公司报告和测试特定模型，以确保AI系统按预期运行并满足指定要求。

  在汽车行业中，ISO/CD PAS 8800 是一项拟制标准，旨在说明道路车辆的安全相关属性和风险因素。在航空航天和国防领域，认证是强制性要求。机载系统和设备认证中的软件考虑因素(DO178C)等现行标准不一定可以直接帮助应对人工智能所带来的独特挑战。因此，新的 ARP6983 过程标准正在制定中，旨在为开发和认证实现AI的航空安全相关这类的产品提供规范。

  特征重要性分析办法能够帮助工程师确定哪些输入变量对模型预测的影响最大。这种分析方法的工作方式因模型(如基于树的模型和线性模型)而异，但是，一般过程会为每个输入变量赋予一个特征重要性分数。重要性分数越高，该特征对模型决策的影响就越大。对于汽车行业的安全关键型系统，变量可能包括外因，如降水或其他车辆的存在和行为。

  通常，工程师会评估人工智能模型在真实场景中的性能，以确保安全关键型系统能够在这些场景中稳健运行。他们的目标是找出各种限制，以提高模型的准确度和可靠性。工程师首先会收集大量有代表性的真实数据集，并通过清洗数据使其适用于测试。然后，他们会设计测试用例来评估模型的每个方面，例如准确度和可再现性。最后，工程师会将模型应用于数据集，记录结果并将其与预期输出作比较。模型设计将依据数据测试的结果进行改进。

  凭借基于AI的系统仿真，工程师能够在受控环境中评估和评价系统的性能。在仿真期间，工程师会创建一个虚拟环境，以在各种条件下对真实系统来进行模拟。首先，他们会定义仿真系统所需的输入和参数，例如初始条件和外因。然后，他们使用Simulink®等软件执行仿真，该软件会输出系统对建议场景的响应。与数据测试一样，仿真结果会与预期或已知结果作比较，以便于模型得到逐步改进。

  缓解数据偏向的一种方法是，让用于训练人工智能模型的数据具有多变性，这有助于减少模型对限制其学习的重复模式的依赖。借助数据增强方法，可确保代表不同类别和人群的数据都能得到公平和平等的处理。在无人驾驶汽车场景中，数据增强可能涉及使用不相同角度的行人照片来帮助模型检测行人，而不管这些行人的位姿如何。数据平衡方法通常与数据增强结合使用，包含来自每个数据类的相似样本。以行人为例，平衡数据意味着，针对每种不同的行人场景，如不同体型、服装样式、光照条件和背景，数据集都必须包含与之对应数量的图像。这种办法能够最大限度地减少偏向，并提高模型在各种现实情况下的泛化能力。

  在安全关键型场景中部署神经网络时，稳健性是首要考虑因素。细微而难以察觉的变化会带来重大风险，使神经网络产生误分类。这些干扰有几率会使神经网络输出不正确或危险的结果。在错误可能会引起灾难的系统中，这样的一种情况尤其令人担忧。一种解决方案是，将形式化方法纳入开发和验证过程中。形式化方法就是使用严格的数学模型来确立和证明神经网络的正确性属性。通过应用这一些方法，工程师能大大的提升网络对某些类型干扰的抵御能力，从而确保安全关键型应用具有更高的稳健性和可靠性。

  在基于人工智能的安全关键型系统时代，V&V 过程对于获得行业认证和遵循法律要求将变得至关重要。若要构建和维护让人信服的系统，工程师需要采用验证方法，为运行这些系统的人工智能模型提供可解释性和透明度。随着工程师利用人工智能来帮助执行 V&V 过程，他们必探索各种测试方法来应对人工智能技术所带来的日益复杂的挑战。在安全关键型系统中，这些工作可确保人工智能以负责且透明的方式得到使用。