AI研究员声称神经网络可能比想象中更易理解

AI研究员Nick Cammarata声称，通过重新审视神经网络，可能比以往认为的更容易理解和控制模型。他以Inception v1为例展示了概念重叠的常见形态（如V形），并认为全面理解前沿LLM虽遥远但非不可能，这可能为AI安全提供关键路径。同时，文中也引用了多位研究者的质疑，指出对个体神经元的理解仍仅是更大谜题中的一小部分。