今天看到新闻，习总书记访问美国。其中要探讨AI的问题。

这使我想起上世纪九十年代，才开始搞转基因抗虫棉的时候。那个时候人们对它又喜欢又惧怕。喜欢它可以代替高毒农药杀虫，而又担心转基因的东西对人是不是有害。国家及时出台了有关法律法规。

人工智能发展迅速，日新月异。人们也思考很多，也担心悠悠。其关键的问题是必须保障人工智能的向善发展，这也是是当下我们不能忽视的重要课题。这不单单是技术层面的事情，这与我们每个人、乃至整个社会的未来紧紧相连。

为什么AI向善不是可选的加分项，而是必须守住的底线？

AI和以往的技术不一样，它拥有自主生成、自主判断的能力。如果方向出现偏差，风险会快速放大：基础数据里潜藏的偏见，会被AI不断放大，影响求职、贷款等日常生活；深度伪造、AI谣言，一点点消磨人与人之间的信任；强大的AI技术一旦集中在少数人手中，会带来巨大的优势差距；倘若AI的目标和人类的价值相悖，能力越强，其潜在隐患也就越大，甚至会给人类造成灾难。所以，让其向善，是AI走进人类生活的前提。

向善的AI，到底是什么样子的呢？一是必须可控，人类能够看懂、干预，必要时可以关停系统；二是要体现公平，不会因为出身、性别、地域产生偏见；它的关键决策要透明可追溯；技术红利要普惠大众，而不是只服务少数企业；同时做好安全防护，杜绝被用来诈骗、制造虚假信息。

想要让AI走在向善的路上，需要多方一起努力。技术上，研究可解释AI、安全对齐等技术，提前预测风险；制度上制定法律和法规划定红线；企业要把伦理考量融入研发全过程；社会大众随时可了解AI、参与讨论；AI没有国界，但需要各国携手，避免无序竞争。

这里存在一个微妙的平衡难题：监管太紧，容易压制创新；放任不管，又可能埋下隐患。我们要在动态调整中寻找平衡点，守住安全底线，也留给技术合理的探索空间。

如今世界上形成了几种不同的治理思路。中国采用场景化治理，针对AI陪伴这类高风险场景快速出台规则，精准解决情感诱导、侵害未成年人等问题，小切口落地，灵活高效。欧盟出台了综合性AI法案，原本计划全面落地，考虑到企业落地难度，延后了部分高风险系统的合规时间，但安全红线没有放松。在全球层面，大家普遍认同要为AI搭建“护栏”，中国坚持发展与安全并重的思路。

AI的治理贵在精准：精准锁定监管对象、用好治理工具、把握治理节奏。AI向善不是一句轻飘飘的口号，是持续打磨、不断调整的治理实践。

我们期待，在安全的护栏之内，人工智能始终心怀善意，服务于人，并温暖地融入生活。