也就是說，所謂的機器倫理，暫時算不上一個現實問題。
接下來的一個女生問宋嘉，“研究員是反派壞女人嗎？”
潘月明答道，“關于ai覺醒了自我意識之后，會如何思考問題，其實并不存在一個固定的模式，就我個人而言，在設計人物的時候，是把他當做一個快速成熟的孩子來考慮的。
陳一鳴想了想答道，“我不打算探討人工智能的倫理問題，個人認為這個問題現階段無解，也欠缺討論的價值，畢竟當前的科技水平，弱人工智能尚且處于實驗室階段，強人工智能在有生之年都見不到應用的希望。
因此當記憶有可能遭遇危險的時候，ai的第一考量永遠是自我保護。”
他給我的本子一開始就不全，拍攝的時候也是東一榔頭西一棒子的，演員根本就不知道故事走向究竟什么樣，我今天跟你們一樣，也是第一次看完全片。
討論氛圍也被帶動著火熱起來，第三個被叫到的觀眾就直截了當地詢問陳一鳴，為什么想到這樣講故事，ai偏正面，人類偏反面，過往科幻片里類似的設置幾乎沒有。
男主也許對npc的地位沒有什么不滿，但他對過往的記憶一定是無比珍視的，ai沒有身體，或者說虛擬世界就是他們的身體，他們彼此區別的關鍵，就是各自的記憶。
科技濫用的警世恒言過去已經很多了，不多我這一部片子。
我感興趣的是人與ai的相互關系，再具體一點就是信任關系，電腦忠實地按照人類輸入的指令行動，而人類也對電腦反饋的信息抱有天然的信任。
這種信任是因為電腦的可靠性嗎，顯然不是的，因為每個人都知道電腦也會犯錯出bug。
<divclass="contentadv">如果用擬人化一點的說法，我們信任電腦是因為對方是理性生物，行動遵循固定的規則和邏輯，其行為是可預測的。
而人類則不是全然理性的，某些時候更是感性的、情緒化的。
從這個角度審視人與ai的關系就很有意思，人對ai的支配地位是不是源于對方的絕對理性呢？
咱們華國的古人用一句俗語來概括這一現象，那就是君子可欺之以方，意思是有德君子會被合情合理的謊言所欺騙。
現代社會也有類似的段子，你體面，伱就要吃虧，誰會鬧，誰就占便宜，這句話想必大家都會有自己的感觸。
所以在構思這個故事的時候，我的立場是靠向ai這一邊的，虛擬渝城里的npc們，就像是牙牙學語的孩童，處于從是什么到為什么的過渡階段。
故事里未來世界的人類心安理得地享受著人工智能大發展帶來的便利，也肆無忌憚地探索著更多的可能性，包括虛擬渝城的創造者之一女研究員。
唯一一個與npc共情的，是女研究員的丈夫，原因恰恰是因為他在那個高度進化的社會里，個人意識的進化沒能跟上社會的平均水平。
今天在座的大部分都是年輕人，玩電子游戲的很多，我說的這個理由，想必你們都能夠理解。