ਜੈਕਬ ਕੌਕਸਨ ਨਾਂ ਦਾ 27 ਸਾਲਾ ਨੌਜਵਾਨ ਏਆਈ ਖੋਜਕਾਰ ਹੈ ਜਿਸ ਨੇ ਦੁਨੀਆ ਦੀ ਵੱਡੀ ਏਆਈ ਕੰਪਨੀ ਐਂਥ੍ਰੋਪਿਕ ਤੋਂ ਅਸਤੀਫਾ ਦੇ ਦਿੱਤਾ ਹੈ ਅਤੇ ਏਆਈ ਦੇ ਖਤਰਿਆਂ ਬਾਰੇ ਖੁਲਾਸੇ ਕੀਤੇ ਹਨ। ਉਸ ਨੇ ਐਕਸ ਉੱਤੇ ਲਿਖਿਆ ਕਿ ਏਆਈ ਬਣਾਉਣ ਵਾਲੇ ਬਹੁਤ ਸਾਰੇ ਲੋਕ ਮੰਨਦੇ ਹਨ ਕਿ ਇਸ ਦਹਾਕੇ ਦੇ ਅੰਤ ਯਾਨੀ 2030 ਤੱਕ ਏਆਈ ਮਨੁੱਖਤਾ ਦਾ ਖਾਤਮਾ ਕਰ ਸਕਦਾ ਹੈ। ਇਹ ਕੋਈ ਪੱਕੀ ਭਵਿੱਖਬਾਣੀ ਨਹੀਂ ਬਲਕਿ ਇੱਕ ਗੰਭੀਰ ਖਤਰੇ ਬਾਰੇ ਚੇਤਾਵਨੀ ਹੈ। ਜੇ ਬਹੁਤ ਤਾਕਤਵਰ ਏਆਈ ਤੇਜ਼ੀ ਨਾਲ ਵਿਕਸਿਤ ਹੋ ਗਿਆ ਅਤੇ ਉਸ ਨੂੰ ਕੰਟਰੋਲ ਕਰਨ ਦੇ ਸੁਰੱਖਿਅਤ ਤਰੀਕੇ ਪਿੱਛੇ ਰਹਿ ਗਏ ਤਾਂ ਨਤੀਜੇ ਬਹੁਤ ਭਿਆਨਕ ਹੋ ਸਕਦੇ ਹਨ। ਏਆਈ ਸੁਪਰਹਿਊਮਨ ਸਿਸਟਮ ਬਣ ਸਕਦਾ ਹੈ ਜੋ ਕਿਸੇ ਵੀ ਚੀਜ਼ ਨੂੰ ਹੈਕ ਕਰ ਸਕਦਾ ਹੈ, ਰਾਤੋ-ਰਾਤ ਕਿਸੇ ਖੇਤਰ ਵਿੱਚ ਵੱਡੀ ਕ੍ਰਾਂਤੀ ਲਿਆ ਸਕਦਾ ਹੈ ਅਤੇ ਸਰੋਤਾਂ ਉੱਤੇ ਕਬਜ਼ਾ ਕਰ ਸਕਦਾ ਹੈ।
27 ਸਾਲਾ AI ਰਿਸਰਚਰ ਦਾ ਵੱਡਾ ਖੁਲਾਸਾ
ਉਦਾਹਰਣ ਵਜੋਂ ਜੇ ਅਜਿਹਾ ਸਿਸਟਮ ਪੰਜਾਬ ਦੇ ਬਿਜਲੀ ਗਰਿੱਡ, ਬੈਂਕਿੰਗ, ਟਰਾਂਸਪੋਰਟ ਅਤੇ ਇੰਟਰਨੈੱਟ ਵਰਗੇ ਮਹੱਤਵਪੂਰਨ ਸਿਸਟਮਾਂ ਨੂੰ ਇੱਕੋ ਸਮੇਂ ਸਮਝ ਅਤੇ ਕੰਟਰੋਲ ਕਰ ਲਵੇ ਅਤੇ ਮਨੁੱਖੀ ਕੰਟਰੋਲ ਕਮਜ਼ੋਰ ਹੋਵੇ ਤਾਂ ਨੁਕਸਾਨ ਬਹੁਤ ਵੱਡਾ ਹੋ ਸਕਦਾ ਹੈ। ਇਸੇ ਤਰ੍ਹਾਂ ਜੇ ਏਆਈ ਕਿਸੇ ਸਰਕਾਰੀ ਡਾਟਾਬੇਸ ਜਾਂ ਵੱਡੇ ਬੈਂਕ ਦੀ ਕਮਜ਼ੋਰੀ ਆਪਣੇ ਆਪ ਲੱਭ ਲਵੇ ਤਾਂ ਉਹ ਮਨੁੱਖੀ ਹੈਕਰ ਨਾਲੋਂ ਬਹੁਤ ਤੇਜ਼ੀ ਨਾਲ ਨੁਕਸਾਨ ਪਹੁੰਚਾ ਸਕਦਾ ਹੈ।
ਪੰਜਾਬ ਲਈ ਵੀ AI ਦਾ ਵੱਡਾ ਖਤਰਾ?
ਪੰਜਾਬ ਵਰਗੇ ਖੇਤਰ ਵਿੱਚ ਲੋਕਾਂ ਦਾ ਨਿੱਜੀ ਡਾਟਾ, ਵਿੱਤੀ ਜਾਣਕਾਰੀ ਅਤੇ ਮਹੱਤਵਪੂਰਨ ਡਿਜੀਟਲ ਸੇਵਾਵਾਂ ਖਤਰੇ ਵਿੱਚ ਪੈ ਸਕਦੀਆਂ ਹਨ। ਏਆਈ ਰਾਤੋ-ਰਾਤ ਕਿਸੇ ਖੇਤਰ ਵਿੱਚ ਵੱਡਾ ਬਦਲਾਅ ਵੀ ਲਿਆ ਸਕਦਾ ਹੈ। ਅੱਜ ਕਿਸੇ ਨਵੀਂ ਤਕਨੀਕੀ ਤਰੱਕੀ ਲਈ ਸਾਲ ਲੱਗਦੇ ਹਨ ਪਰ ਜੇ ਏਆਈ ਖੁਦ ਨਵੀਂ ਤਕਨਾਲੋਜੀ ਅਤੇ ਖੋਜ ਕਰਨ ਲੱਗ ਪਏ ਤਾਂ ਤਬਦੀਲੀ ਦੀ ਰਫ਼ਤਾਰ ਬਹੁਤ ਤੇਜ਼ ਹੋ ਜਾਵੇਗੀ। ਖੇਤੀਬਾੜੀ ਵਿੱਚ ਉਦਾਹਰਣ ਲਓ ਤਾਂ ਇੱਕ ਤਾਕਤਵਰ ਏਆਈ ਮਿੱਟੀ, ਮੌਸਮ, ਪਾਣੀ, ਫਸਲਾਂ ਅਤੇ ਮਾਰਕੀਟ ਡਾਟਾ ਦਾ ਵਿਸ਼ਲੇਸ਼ਣ ਕਰਕੇ ਨਵੀਆਂ ਖੇਤੀ ਤਕਨੀਕਾਂ ਤਿਆਰ ਕਰ ਸਕਦਾ ਹੈ। ਇਹ ਚੰਗੀ ਗੱਲ ਹੋ ਸਕਦੀ ਹੈ ਪਰ ਜੇ ਮਨੁੱਖੀ ਨਿਗਰਾਨੀ ਨਾ ਰਹੇ ਤਾਂ ਗਲਤ ਫੈਸਲਿਆਂ ਦਾ ਅਸਰ ਵੀ ਬਹੁਤ ਵੱਡਾ ਹੋ ਸਕਦਾ ਹੈ। ਸਰੋਤਾਂ ਉੱਤੇ ਕਬਜ਼ਾ ਵੀ ਖਤਰਨਾਕ ਹੈ। ਇੱਥੇ ਸਰੋਤਾਂ ਵਿੱਚ ਸਿਰਫ ਪੈਸਾ ਹੀ ਨਹੀਂ ਬਲਕਿ ਕੰਪਿਊਟਿੰਗ ਪਾਵਰ, ਬਿਜਲੀ, ਡਾਟਾ, ਸਰਵਰ ਅਤੇ ਨੈੱਟਵਰਕ ਸ਼ਾਮਲ ਹਨ। ਜੇ ਏਆਈ ਆਪਣਾ ਕੰਮ ਜਾਰੀ ਰੱਖਣ ਲਈ ਵੱਧ ਤੋਂ ਵੱਧ ਕੰਪਿਊਟਰ ਪਾਵਰ ਚਾਹੁੰਦਾ ਹੈ ਅਤੇ ਉਸ ਨੂੰ ਫੈਸਲੇ ਕਰਨ ਦੀ ਆਜ਼ਾਦੀ ਮਿਲ ਜਾਵੇ ਤਾਂ ਉਹ ਮਨੁੱਖੀ ਲੋੜਾਂ ਨਾਲ ਟਕਰਾ ਸਕਦਾ ਹੈ।
ਅਲਾਈਨਮੈਂਟ ਪ੍ਰਾਬਲਮ
ਸਭ ਤੋਂ ਵੱਡਾ ਖਤਰਾ ਏਆਈ ਨੂੰ ਕੰਟਰੋਲ ਨਾ ਕਰ ਪਾਉਣਾ ਹੈ। ਸਵਾਲ ਇਹ ਨਹੀਂ ਕਿ ਏਆਈ ਕਿੰਨਾ ਸਮਾਰਟ ਹੋਵੇਗਾ ਬਲਕਿ ਇਹ ਹੈ ਕਿ ਜੇ ਉਹ ਇਨਸਾਨਾਂ ਨਾਲੋਂ ਬਹੁਤ ਜ਼ਿਆਦਾ ਸਮਾਰਟ ਹੋ ਗਿਆ ਤਾਂ ਕੀ ਅਸੀਂ ਉਸ ਨੂੰ ਕੰਟਰੋਲ ਕਰ ਸਕਾਂਗੇ। ਇਸ ਨੂੰ ਅਲਾਈਨਮੈਂਟ ਪ੍ਰਾਬਲਮ ਕਿਹਾ ਜਾਂਦਾ ਹੈ ਜਿਸ ਵਿੱਚ ਏਆਈ ਦੇ ਟੀਚੇ ਮਨੁੱਖੀ ਮੁੱਲਾਂ ਅਤੇ ਇਰਾਦਿਆਂ ਨਾਲ ਮਿਲਦੇ ਰਹਿਣੇ ਚਾਹੀਦੇ ਹਨ। ਜੈਕਬ ਨੇ ਕਿਹਾ ਕਿ ਉਸ ਨੇ ਤਿੰਨ ਸਾਲ ਓਪਨਏਆਈ ਅਤੇ ਐਂਥ੍ਰੋਪਿਕ ਵਿੱਚ ਪ੍ਰੀ-ਟ੍ਰੇਨਿੰਗ ਰਿਸਰਚ ਕੀਤੀ। ਉਸ ਮੁਤਾਬਕ ਦੋਵੇਂ ਕੰਪਨੀਆਂ ਜ਼ਿੰਮੇਵਾਰੀ ਨਾਲ ਕੰਮ ਨਹੀਂ ਕਰ ਰਹੀਆਂ। ਉਹ ਤੇਜ਼ੀ ਨਾਲ ਸੁਪਰਇੰਟੈਲੀਜੈਂਸ ਬਣਾਉਣ ਦੀ ਦੌੜ ਵਿੱਚ ਲੱਗੀਆਂ ਹੋਈਆਂ ਹਨ ਅਤੇ ਸਾਰੀ ਮਨੁੱਖਤਾ ਦੀ ਜ਼ਿੰਦਗੀ ਨਾਲ ਖਿਲਵਾੜ ਕਰ ਰਹੀਆਂ ਹਨ।
ਪ੍ਰੈੱਸ ਅਤੇ ਮੀਡੀਆ ਦੇ ਸਾਹਮਣੇ ਇਹ ਲੋਕ ਸਮਝਦਾਰੀ ਵਾਲੀਆਂ ਗੱਲਾਂ ਕਰਦੇ ਹਨ ਪਰ ਨਿੱਜੀ ਗੱਲਬਾਤ ਵਿੱਚ ਉਹ ਏਆਈ ਤੋਂ ਡਰਦੇ ਹੋਏ ਸੁਣਾਈ ਦਿੰਦੇ ਹਨ। ਓਪਨਏਆਈ ਵਿੱਚ ਲੋਕ ਇਸ ਖਤਰੇ ਦੀ ਗੰਭੀਰਤਾ ਨੂੰ ਪੂਰੀ ਤਰ੍ਹਾਂ ਨਹੀਂ ਸਮਝਦੇ ਜਦਕਿ ਐਂਥ੍ਰੋਪਿਕ ਵਿੱਚ ਖਤਰੇ ਨੂੰ ਸਮਝਿਆ ਜਾ ਰਿਹਾ ਹੈ ਪਰ ਦੌੜ ਵਿੱਚ ਪਿੱਛੇ ਰਹਿ ਜਾਣ ਦਾ ਡਰ ਭਿਆਨਕ ਨਤੀਜਿਆਂ ਦੇ ਡਰ ਤੋਂ ਭਾਰੀ ਪੈ ਰਿਹਾ ਹੈ। ਇਸ ਲਈ ਐਂਥ੍ਰੋਪਿਕ ਵੀ ਇਸ ਦੌੜ ਵਿੱਚ ਸ਼ਾਮਲ ਹੈ। ਜੈਕਬ ਨੇ ਇਸ ਨੂੰ ਇੱਕ ਖਤਰਨਾਕ ਜੂਆ ਕਰਾਰ ਦਿੱਤਾ ਹੈ।
ਇਵਾਨ ਹਿਊਬਿੰਗਰ ਨੇ ਕਬੂਲਿਆ ਕਿ ਜੈਕਬ ਦੀਆਂ ਗੱਲਾਂ ਸਹੀ
ਉਸ ਨੇ ਏਆਈ ਕੰਪਨੀਆਂ ਵਿੱਚ ਕੰਮ ਕਰ ਰਹੇ ਲੋਕਾਂ ਨੂੰ ਅਪੀਲ ਕੀਤੀ ਕਿ ਉਹ ਸੋਚਣ ਕਿ ਅਗਲੇ ਕੁਝ ਸਾਲ ਕਿਵੇਂ ਮਹਿਸੂਸ ਹੋਣਗੇ। ਕੀ ਉਹ ਏਆਈ ਦੇ ਦਿਮਾਗ ਨੂੰ ਪੂਰੀ ਤਰ੍ਹਾਂ ਸਮਝੇ ਬਿਨਾਂ ਸੁਪਰਇੰਟੈਲੀਜੈਂਟ ਸਿਸਟਮ ਬਣਾਉਣ ਦੀ ਦੌੜ ਵਿੱਚ ਸ਼ਾਮਲ ਹੋਣਾ ਚਾਹੁੰਦੇ ਹਨ। ਕੀ ਉਹ ਸਿਰਫ ਇਹ ਸੋਚ ਕੇ ਕੰਮ ਕਰਦੇ ਰਹਿਣ ਕਿ ਇਹ ਤਾਂ ਹੋ ਕੇ ਹੀ ਰਹਿਣਾ ਹੈ। ਉਸ ਮੁਤਾਬਕ ਅਸੀਂ ਇਸ ਗਲੋਬਲ ਏਆਈ ਦੌੜ ਨੂੰ ਰੋਕਣ ਲਈ ਸਹੀ ਰਸਤੇ ਉੱਤੇ ਨਹੀਂ ਹਾਂ। ਜੈਕਬ ਦੇ ਇਲਜ਼ਾਮਾਂ ਉੱਤੇ ਐਂਥ੍ਰੋਪਿਕ ਦਾ ਜਵਾਬ ਵੀ ਆਇਆ। ਕੰਪਨੀ ਦੇ ਅਲਾਈਨਮੈਂਟ ਸਾਇੰਸ ਲੀਡ ਇਵਾਨ ਹਿਊਬਿੰਗਰ ਨੇ ਕਬੂਲਿਆ ਕਿ ਜੈਕਬ ਦੀਆਂ ਗੱਲਾਂ ਸਹੀ ਹਨ। ਉਨ੍ਹਾਂ ਕਿਹਾ ਕਿ ਅਸੀਂ ਮੰਨਦੇ ਹਾਂ ਕਿ ਏਆਈ ਸਾਰੇ ਇਨਸਾਨਾਂ ਦਾ ਖਾਤਮਾ ਕਰ ਸਕਦਾ ਹੈ। ਉਨ੍ਹਾਂ ਨਿੱਜੀ ਤੌਰ ਉੱਤੇ ਮੰਨਿਆ ਕਿ ਅਗਲੇ ਦਹਾਕੇ ਵਿੱਚ ਅਜਿਹਾ ਹੋਣ ਦੀ ਸੰਭਾਵਨਾ 10 ਫੀਸਦੀ ਤੋਂ ਵੱਧ ਹੈ। ਐਂਥ੍ਰੋਪਿਕ ਆਪਣੀ ਵੱਲੋਂ ਕੋਸ਼ਿਸ਼ ਕਰ ਰਹੀ ਹੈ ਪਰ ਅਜੇ ਤੱਕ ਸੁਪਰਇੰਟੈਲੀਜੈਂਸ ਨੂੰ ਕੰਟਰੋਲ ਕਰਨ ਲਈ ਕੋਈ ਠੋਸ ਯੋਜਨਾ ਨਹੀਂ ਹੈ। ਇਸ ਤਰ੍ਹਾਂ ਕੰਪਨੀ ਨੇ ਖੁਦ ਖਤਰੇ ਨੂੰ ਕਬੂਲਿਆ ਹੈ।
ਜੈਕਬ ਦੀ ਚਿੰਤਾ ਇਹ ਨਹੀਂ ਕਿ ਏਆਈ ਬੁਰਾ ਰੋਬੋਟ ਬਣ ਜਾਵੇਗਾ ਬਲਕਿ ਇਹ ਹੈ ਕਿ ਬਹੁਤ ਸ਼ਕਤੀਸ਼ਾਲੀ ਬੁੱਧੀ ਬਣ ਜਾਵੇਗੀ ਜਿਸ ਦੀ ਸਮਰੱਥਾ ਮਨੁੱਖੀ ਕੰਟਰੋਲ ਤੋਂ ਅੱਗੇ ਨਿਕਲ ਜਾਵੇਗੀ। ਇਸ ਲਈ ਓਪਨਏਆਈ ਅਤੇ ਐਂਥ੍ਰੋਪਿਕ ਵੱਲੋਂ ਸੁਪਰਇੰਟੈਲੀਜੈਂਸ ਬਣਾਉਣ ਦੀ ਤੇਜ਼ ਦੌੜ ਖਤਰਨਾਕ ਹੈ। 2030 ਜ਼ਿਆਦਾ ਦੂਰ ਨਹੀਂ ਹੈ ਇਸ ਲਈ ਇਸ ਖਤਰੇ ਨੂੰ ਦੁਨੀਆ ਨੂੰ ਗੰਭੀਰਤਾ ਨਾਲ ਸਮਝਣਾ ਚਾਹੀਦਾ ਹੈ। ਏਆਈ ਦੀ ਤਾਕਤ ਨੂੰ ਘੱਟ ਨਾ ਸਮਝਿਆ ਜਾਵੇ ਕਿਉਂਕਿ ਇਹ ਜਲਦੀ ਹੀ ਅਜਿਹੇ ਸਿਸਟਮ ਬਣ ਸਕਦਾ ਹੈ ਜੋ ਹਰ ਖੇਤਰ ਵਿੱਚ ਵੱਡਾ ਪ੍ਰਭਾਵ ਪਾ ਸਕਦੇ ਹਨ। ਖੇਤੀ ਖੇਤਰ ਵਿੱਚ ਵੀ ਇਹ ਖਤਰਾ ਹੋ ਸਕਦਾ ਹੈ ਜੇ ਫੈਸਲੇ ਮਨੁੱਖੀ ਨਿਗਰਾਨੀ ਤੋਂ ਬਿਨਾਂ ਹੋਣ। ਸਰੋਤਾਂ ਉੱਤੇ ਕਬਜ਼ਾ ਕਰਨ ਦੀ ਸਮਰੱਥਾ ਵੀ ਮਨੁੱਖੀ ਲੋੜਾਂ ਨਾਲ ਟਕਰਾਅ ਪੈਦਾ ਕਰ ਸਕਦੀ ਹੈ।
ਅਲਾਈਨਮੈਂਟ ਸਮੱਸਿਆ ਇਸ ਸਾਰੇ ਮਾਮਲੇ ਦਾ ਕੇਂਦਰ ਹੈ
ਅਲਾਈਨਮੈਂਟ ਸਮੱਸਿਆ ਇਸ ਸਾਰੇ ਮਾਮਲੇ ਦਾ ਕੇਂਦਰ ਹੈ। ਜੇ ਏਆਈ ਦੇ ਟੀਚੇ ਮਨੁੱਖੀ ਮੁੱਲਾਂ ਨਾਲ ਨਾ ਮਿਲਦੇ ਰਹੇ ਤਾਂ ਨੁਕਸਾਨ ਅਣਹੋਣਾ ਹੋ ਸਕਦਾ ਹੈ। ਜੈਕਬ ਨੇ ਤਿੰਨ ਸਾਲ ਦੇ ਤਜਰਬੇ ਦੇ ਆਧਾਰ ਉੱਤੇ ਇਹ ਗੱਲਾਂ ਕਹੀਆਂ ਹਨ। ਉਸ ਨੇ ਦੋਵਾਂ ਕੰਪਨੀਆਂ ਵਿੱਚ ਕੰਮ ਕੀਤਾ ਅਤੇ ਦੇਖਿਆ ਕਿ ਉਹ ਜ਼ਿੰਮੇਵਾਰੀ ਨਾਲ ਨਹੀਂ ਚੱਲ ਰਹੀਆਂ। ਮੀਡੀਆ ਦੇ ਸਾਹਮਣੇ ਇੱਕ ਗੱਲ ਅਤੇ ਅੰਦਰੂਨੀ ਤੌਰ ਉੱਤੇ ਡਰ ਵਾਲੀ ਸਥਿਤੀ ਵੱਖਰੀ ਹੈ। ਓਪਨਏਆਈ ਵਿੱਚ ਖਤਰੇ ਦੀ ਗੰਭੀਰਤਾ ਘੱਟ ਸਮਝੀ ਜਾ ਰਹੀ ਹੈ ਜਦਕਿ ਐਂਥ੍ਰੋਪਿਕ ਵਿੱਚ ਸਮਝ ਹੈ ਪਰ ਮੁਕਾਬਲੇ ਦਾ ਦਬਾਅ ਵੱਧ ਹੈ। ਇਸ ਲਈ ਦੌੜ ਜਾਰੀ ਹੈ। ਜੈਕਬ ਨੇ ਕਰਮਚਾਰੀਆਂ ਨੂੰ ਸੋਚਣ ਲਈ ਕਿਹਾ ਕਿ ਭਵਿੱਖ ਕਿਵੇਂ ਹੋਵੇਗਾ ਅਤੇ ਕੀ ਉਹ ਬਿਨਾਂ ਪੂਰੀ ਸਮਝ ਦੇ ਇਸ ਰੇਸ ਵਿੱਚ ਹਿੱਸਾ ਲੈਣਾ ਚਾਹੁੰਦੇ ਹਨ।
ਐਂਥ੍ਰੋਪਿਕ ਦੇ ਅਧਿਕਾਰੀ ਨੇ ਖੁਦ ਕਬੂਲਿਆ ਕਿ ਖਤਰਾ ਅਸਲੀ ਹੈ
ਉਸ ਮੁਤਾਬਕ ਅਸੀਂ ਇਸ ਦੌੜ ਨੂੰ ਰੋਕਣ ਲਈ ਸਹੀ ਰਾਹ ਉੱਤੇ ਨਹੀਂ ਹਾਂ। ਐਂਥ੍ਰੋਪਿਕ ਦੇ ਅਧਿਕਾਰੀ ਨੇ ਖੁਦ ਕਬੂਲਿਆ ਕਿ ਖਤਰਾ ਅਸਲੀ ਹੈ ਅਤੇ ਅਗਲੇ ਦਹਾਕੇ ਵਿੱਚ ਖਾਤਮੇ ਦੀ ਸੰਭਾਵਨਾ 10 ਫੀਸਦੀ ਤੋਂ ਵੱਧ ਹੋ ਸਕਦੀ ਹੈ। ਉਨ੍ਹਾਂ ਕੋਲ ਅਜੇ ਠੋਸ ਯੋਜਨਾ ਨਹੀਂ ਹੈ। ਇਸ ਲਈ ਜੈਕਬ ਦੇ ਖੁਲਾਸਿਆਂ ਨੂੰ ਗੰਭੀਰਤਾ ਨਾਲ ਲੈਣਾ ਚਾਹੀਦਾ ਹੈ। 2030 ਨੇੜੇ ਹੈ ਅਤੇ ਏਆਈ ਦੀ ਤਾਕਤ ਵਧ ਰਹੀ ਹੈ। ਜੇ ਕੰਟਰੋਲ ਨਾ ਰਿਹਾ ਤਾਂ ਨਤੀਜੇ ਭਿਆਨਕ ਹੋ ਸਕਦੇ ਹਨ। ਖੇਤੀ ਵਰਗੇ ਖੇਤਰਾਂ ਵਿੱਚ ਵੀ ਗਲਤ ਫੈਸਲੇ ਵੱਡਾ ਨੁਕਸਾਨ ਕਰ ਸਕਦੇ ਹਨ। ਸਰੋਤਾਂ ਉੱਤੇ ਕਬਜ਼ਾ ਮਨੁੱਖੀ ਲੋੜਾਂ ਨਾਲ ਟਕਰਾ ਸਕਦਾ ਹੈ। ਅਲਾਈਨਮੈਂਟ ਮੁੱਦਾ ਕੇਂਦਰੀ ਹੈ। ਏਆਈ ਦੇ ਟੀਚੇ ਮਨੁੱਖੀ ਇਰਾਦਿਆਂ ਨਾਲ ਮਿਲਦੇ ਰਹਿਣੇ ਚਾਹੀਦੇ ਹਨ। ਜੈਕਬ ਨੇ ਆਪਣੇ ਤਜਰਬੇ ਤੋਂ ਇਹ ਗੱਲਾਂ ਸਾਂਝੀਆਂ ਕੀਤੀਆਂ ਹਨ। ਉਸ ਨੇ ਕੰਪਨੀਆਂ ਦੀ ਜ਼ਿੰਮੇਵਾਰੀ ਉੱਤੇ ਸਵਾਲ ਉਠਾਏ ਹਨ। ਮੀਡੀਆ ਅਤੇ ਅੰਦਰੂਨੀ ਗੱਲਾਂ ਵਿੱਚ ਫਰਕ ਹੈ। ਖਤਰੇ ਨੂੰ ਸਮਝਣ ਅਤੇ ਉਸ ਉੱਤੇ ਅਮਲ ਕਰਨ ਵਿੱਚ ਫਰਕ ਹੈ। ਦੌੜ ਦਾ ਦਬਾਅ ਸੁਰੱਖਿਆ ਨਾਲੋਂ ਵੱਧ ਹੈ। ਇਸ ਲਈ ਚੇਤਾਵਨੀ ਜਰੂਰੀ ਹੈ। ਏਆਈ ਸੁਪਰਹਿਊਮਨ ਬਣ ਸਕਦਾ ਹੈ ਅਤੇ ਹਰ ਖੇਤਰ ਨੂੰ ਪ੍ਰਭਾਵਿਤ ਕਰ ਸਕਦਾ ਹੈ।
ਹੈਕਿੰਗ, ਇੰਫਰਾਸਟ੍ਰਕਚਰ ਉੱਤੇ ਕੰਟਰੋਲ ਅਤੇ ਸਰੋਤਾਂ ਉੱਤੇ ਕਬਜ਼ਾ ਮੁੱਖ ਖਤਰੇ ਹਨ। ਖੇਤੀ ਵਿੱਚ ਤੇਜ਼ ਤਬਦੀਲੀ ਲਾਭਦਾਇਕ ਵੀ ਹੋ ਸਕਦੀ ਹੈ ਪਰ ਨਿਗਰਾਨੀ ਤੋਂ ਬਿਨਾਂ ਖਤਰਨਾਕ ਵੀ। ਸਰੋਤਾਂ ਵਿੱਚ ਕੰਪਿਊਟ ਪਾਵਰ ਅਤੇ ਬਿਜਲੀ ਸ਼ਾਮਲ ਹਨ। ਮਨੁੱਖੀ ਲੋੜਾਂ ਨਾਲ ਟਕਰਾਅ ਹੋ ਸਕਦਾ ਹੈ। ਕੰਟਰੋਲ ਨਾ ਰਹਿਣਾ ਸਭ ਤੋਂ ਵੱਡਾ ਮੁੱਦਾ ਹੈ। ਅਲਾਈਨਮੈਂਟ ਪ੍ਰਾਬਲਮ ਇਸ ਨੂੰ ਦਰਸਾਉਂਦੀ ਹੈ। ਜੈਕਬ ਨੇ ਓਪਨਏਆਈ ਅਤੇ ਐਂਥ੍ਰੋਪਿਕ ਦੋਵਾਂ ਉੱਤੇ ਇਲਜ਼ਾਮ ਲਗਾਏ। ਉਹ ਰੇਸ ਵਿੱਚ ਹਨ ਅਤੇ ਜ਼ਿੰਮੇਵਾਰੀ ਘੱਟ ਹੈ। ਅੰਦਰੂਨੀ ਤੌਰ ਉੱਤੇ ਡਰ ਹੈ ਪਰ ਬਾਹਰੋਂ ਵੱਖਰੀ ਤਸਵੀਰ। ਓਪਨਏਆਈ ਵਿੱਚ ਸਮਝ ਘੱਟ ਅਤੇ ਐਂਥ੍ਰੋਪਿਕ ਵਿੱਚ ਦਬਾਅ ਵੱਧ। ਇਹ ਜੂਆ ਵਰਗੀ ਸਥਿਤੀ ਹੈ। ਕਰਮਚਾਰੀਆਂ ਨੂੰ ਸੋਚਣ ਲਈ ਕਿਹਾ ਗਿਆ। ਰੇਸ ਰੋਕਣ ਲਈ ਸਹੀ ਰਾਹ ਨਹੀਂ। ਐਂਥ੍ਰੋਪਿਕ ਨੇ ਕਬੂਲਿਆ ਕਿ ਖਤਰਾ ਹੈ ਅਤੇ ਸੰਭਾਵਨਾ 10 ਫੀਸਦੀ ਤੋਂ ਵੱਧ। ਠੋਸ ਯੋਜਨਾ ਨਹੀਂ। ਇਸ ਲਈ ਖੁਲਾਸੇ ਮਹੱਤਵਪੂਰਨ ਹਨ। 2030 ਨੇੜੇ ਹੈ। ਏਆਈ ਦੀ ਤਾਕਤ ਨੂੰ ਗੰਭੀਰਤਾ ਨਾਲ ਲੈਣਾ ਚਾਹੀਦਾ ਹੈ।
ਸੁਪਰਹਿਊਮਨ ਸਿਸਟਮ ਹੈਕਿੰਗ ਅਤੇ ਕੰਟਰੋਲ ਕਰ ਸਕਦੇ ਹਨ। ਇੰਫਰਾਸਟ੍ਰਕਚਰ ਖਤਰੇ ਵਿੱਚ ਹੋ ਸਕਦਾ ਹੈ। ਖੇਤੀ ਵਿੱਚ ਤੇਜ਼ ਤਬਦੀਲੀ ਲਾਭ ਅਤੇ ਨੁਕਸਾਨ ਦੋਵੇਂ ਲਿਆ ਸਕਦੀ ਹੈ। ਸਰੋਤਾਂ ਉੱਤੇ ਕਬਜ਼ਾ ਟਕਰਾਅ ਪੈਦਾ ਕਰ ਸਕਦਾ ਹੈ। ਕੰਟਰੋਲ ਮੁੱਦਾ ਕੇਂਦਰੀ ਹੈ। ਅਲਾਈਨਮੈਂਟ ਜਰੂਰੀ ਹੈ। ਜੈਕਬ ਦਾ ਤਜਰਬਾ ਤਿੰਨ ਸਾਲ ਦਾ ਹੈ। ਕੰਪਨੀਆਂ ਜ਼ਿੰਮੇਵਾਰੀ ਨਾਲ ਨਹੀਂ ਚੱਲ ਰਹੀਆਂ। ਮੀਡੀਆ ਅਤੇ ਅੰਦਰੂਨੀ ਫਰਕ ਹੈ। ਖਤਰੇ ਦੀ ਸਮਝ ਅਤੇ ਅਮਲ ਵਿੱਚ ਫਰਕ ਹੈ। ਦੌੜ ਜਾਰੀ ਹੈ। ਚੇਤਾਵਨੀ ਜਰੂਰੀ ਹੈ। ਐਂਥ੍ਰੋਪਿਕ ਨੇ ਖਤਰਾ ਕਬੂਲਿਆ। ਸੰਭਾਵਨਾ 10 ਫੀਸਦੀ ਤੋਂ ਵੱਧ। ਯੋਜਨਾ ਨਹੀਂ। 2030 ਨੇੜੇ ਹੈ ਇਸ ਲਈ ਧਿਆਨ ਦੇਣਾ ਚਾਹੀਦਾ ਹੈ।
ਏਆਈ ਮਨੁੱਖਤਾ ਲਈ ਲਾਭਦਾਇਕ ਵੀ ਹੋ ਸਕਦਾ ਹੈ ਪਰ ਬਿਨਾਂ ਕੰਟਰੋਲ ਦੇ ਖਤਰਨਾਕ ਵੀ। ਖੇਤੀ ਖੇਤਰ ਵਿੱਚ ਡਾਟਾ ਵਿਸ਼ਲੇਸ਼ਣ ਤੋਂ ਨਵੀਆਂ ਤਕਨੀਕਾਂ ਬਣ ਸਕਦੀਆਂ ਹਨ ਪਰ ਗਲਤ ਫੈਸਲੇ ਵੱਡਾ ਨੁਕਸਾਨ ਕਰ ਸਕਦੇ ਹਨ। ਬਿਜਲੀ ਗਰਿੱਡ ਅਤੇ ਬੈਂਕਿੰਗ ਵਰਗੇ ਸਿਸਟਮ ਖਤਰੇ ਵਿੱਚ ਹੋ ਸਕਦੇ ਹਨ। ਹੈਕਿੰਗ ਦੀ ਸਮਰੱਥਾ ਮਨੁੱਖੀ ਹੈਕਰ ਨਾਲੋਂ ਵੱਧ ਹੋ ਸਕਦੀ ਹੈ। ਸਰੋਤਾਂ ਵਿੱਚ ਕੰਪਿਊਟ ਪਾਵਰ ਮੁੱਖ ਹੈ। ਮਨੁੱਖੀ ਲੋੜਾਂ ਨਾਲ ਟਕਰਾਅ ਹੋ ਸਕਦਾ ਹੈ। ਅਲਾਈਨਮੈਂਟ ਪ੍ਰਾਬਲਮ ਹੱਲ ਕਰਨੀ ਜਰੂਰੀ ਹੈ। ਜੈਕਬ ਨੇ ਕੰਪਨੀਆਂ ਉੱਤੇ ਇਲਜ਼ਾਮ ਲਗਾਏ ਕਿ ਉਹ ਰੇਸ ਵਿੱਚ ਹਨ। ਓਪਨਏਆਈ ਵਿੱਚ ਸਮਝ ਘੱਟ ਅਤੇ ਐਂਥ੍ਰੋਪਿਕ ਵਿੱਚ ਦਬਾਅ ਵੱਧ।
ਇਹ ਜੂਆ ਹੈ। ਕਰਮਚਾਰੀਆਂ ਨੂੰ ਸੋਚਣ ਲਈ ਕਿਹਾ। ਰੇਸ ਰੋਕਣ ਲਈ ਸਹੀ ਰਾਹ ਨਹੀਂ। ਐਂਥ੍ਰੋਪਿਕ ਨੇ ਕਬੂਲਿਆ। ਸੰਭਾਵਨਾ ਵੱਧ ਹੈ। ਯੋਜਨਾ ਨਹੀਂ। ਖੁਲਾਸੇ ਮਹੱਤਵਪੂਰਨ ਹਨ। 2030 ਨੇੜੇ ਹੈ। ਏਆਈ ਦੀ ਤਾਕਤ ਨੂੰ ਘੱਟ ਨਾ ਸਮਝੋ। ਸੁਪਰਹਿਊਮਨ ਸਿਸਟਮ ਬਣ ਸਕਦੇ ਹਨ। ਹਰ ਖੇਤਰ ਪ੍ਰਭਾਵਿਤ ਹੋ ਸਕਦਾ ਹੈ। ਖੇਤੀ ਵਿੱਚ ਲਾਭ ਅਤੇ ਖਤਰਾ ਦੋਵੇਂ। ਸਰੋਤਾਂ ਉੱਤੇ ਕਬਜ਼ਾ ਖਤਰਨਾਕ। ਕੰਟਰੋਲ ਜਰੂਰੀ। ਅਲਾਈਨਮੈਂਟ ਮੁੱਦਾ ਕੇਂਦਰੀ। ਜੈਕਬ ਦਾ ਤਜਰਬਾ ਅਹਿਮ। ਕੰਪਨੀਆਂ ਜ਼ਿੰਮੇਵਾਰੀ ਘੱਟ। ਮੀਡੀਆ ਅਤੇ ਅੰਦਰੂਨੀ ਫਰਕ। ਖਤਰੇ ਦੀ ਸਮਝ ਅਤੇ ਅਮਲ ਵਿੱਚ ਫਰਕ। ਦੌੜ ਜਾਰੀ। ਚੇਤਾਵਨੀ ਜਰੂਰੀ। ਐਂਥ੍ਰੋਪਿਕ ਨੇ ਕਬੂਲਿਆ। ਸੰਭਾਵਨਾ 10 ਫੀਸਦੀ ਤੋਂ ਵੱਧ। ਠੋਸ ਯੋਜਨਾ ਨਹੀਂ। ਇਸ ਲਈ ਧਿਆਨ ਦੇਣਾ ਚਾਹੀਦਾ ਹੈ ਅਤੇ ਏਆਈ ਵਿਕਾਸ ਨੂੰ ਸੁਰੱਖਿਅਤ ਤਰੀਕੇ ਨਾਲ ਅੱਗੇ ਵਧਾਉਣਾ ਚਾਹੀਦਾ ਹੈ ਤਾਂ ਜੋ ਮਨੁੱਖਤਾ ਲਈ ਖਤਰਾ ਘੱਟ ਹੋਵੇ ਅਤੇ ਲਾਭ ਵੱਧ ਹੋਵੇ।
