IT部长阿什维尼·瓦伊什瑙(Ashwini Vaishnaw)周四表示,政府正在与行业合作寻找正确的监管方法,以确保人工智能的安全并保护公民上网,他声称人工智能复杂的用户安全维度使得监管变得必要,尽管该技术带来了显着的好处。
他指出,任何新技术的出现都会带来许多好处,但也带来一些风险。
“每当新技术出现时,新技术都会带来许多积极因素,但也带来一些风险。这就是为什么监管总是在每一项新技术中发挥作用。这项监管主要是关于用户安全,”Vaishnaw在SEMICON India 2026间隙说道。
Vaishnaw表示,就人工智能而言,用户安全维度非常大,并将人工智能安全描述为一个非常复杂的问题。
“就人工智能而言,用户安全维度非常大,因为与物理技术不同,例如核技术是一种非常物理的技术,与如何保持人工智能安全的想象相比,如何安全的想象要容易得多……这就是为什么这是一件非常复杂的事情,”他说。
部长进一步表示,政府正在与业界合作,寻找正确的监管方式、确保人工智能安全的正确方式以及确保公民在网络世界中安全的正确方式。
部长的言论具有重要意义,因为人工智能的无情发展引发了一场全球辩论,讨论如何利用其经济和社会效益,同时遏制从深度造假、错误信息和欺诈到隐私侵犯、偏见和潜在滥用日益强大的人工智能系统等风险。
OpenAI和Anthropic等领先人工智能公司的研究人员和安全专家最近公开对日益强大的人工智能系统的潜在风险发出了严厉警告,其中一些人提出了对人类灾难性后果的担忧。
世界各国政府、大型科技公司、研究人员以及科学家们目前正在努力制定既能够保护用户权益、又不会抑制创新的监管框架与安全标准。