- ਸ਼ਹਿਰ ਚੁਣੋ
- ਈ-ਪੇਪਰ
- ਵੈੱਬ ਸਟੋਰੀਜ਼
- ਸ਼ਹਿਰ ਚੁਣੋ
- ਈ-ਪੇਪਰ
- ਵੈੱਬ ਸਟੋਰੀਜ਼
ਟੈੱਕ ਜਗਤ 'ਚ ਮਚੀ ਖਲਬਲੀ : ਗੂਗਲ ਦੇ ਮੁੱਖ AI ਵਿਗਿਆਨੀ ਨੇ ਛੱਡੀ ਨੌਕਰੀ, AI ਦੇ ਖ਼ਤਰਿਆਂ ਬਾਰੇ ਖੋਲ੍ਹੇ ਵੱਡੇ ਰਾਜ਼
ਆਰਟੀਫਿਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ (AI) ਨਾਲ ਜੁੜੇ ਖਤਰਿਆਂ ਨੂੰ ਲੈ ਕੇ ਚਿੰਤਾਵਾਂ ਲਗਾਤਾਰ ਵੱਧ ਰਹੀਆਂ ਹਨ। ਕੁਝ ਦਿਨ ਪਹਿਲਾਂ ਹੀ ਐਂਥਰੋਪਿਕ ਦੇ ਸਾਬਕਾ ਰਿਸਰਚਰ ਜੈਕਬ ਕੌਕਸਨ ਨੇ ਚੇਤਾਵਨੀ ਦਿੱਤੀ ਸੀ ਕਿ AI ਇਸ ਦਹਾਕੇ ਦੇ ਅੰਤ ਤੱਕ ਸਾਰੇ ਮਨੁੱਖਾਂ ਦੀ ਜਾਨ ਲੈ ਸਕਦਾ ਹੈ। ਹੁਣ AI ਸੁਰੱਖਿਆ ਨਾਲ ਜੁੜੇ ਇੱਕ ਹੋਰ ਰਿਸਰਚਰ ਨੇ ਇੱਕ ਵੱਡੀ AI ਲੈਬ ਛੱਡ ਦਿੱਤੀ ਹੈ ਅਤੇ ਗੰਭੀਰ ਚੇਤਾਵਨੀ ਦਿੱਤੀ ਹੈ।
Posted By Sunita
Publish Date: Tue, 15 Sep 2026 01:00 PM (IST)
Updated Date: Tue, 15 Sep 2026 01:01 PM (IST)
ਡਿਜੀਟਲ ਡੈਸਕ, ਵਾਸ਼ਿੰਗਟਨ - ਆਰਟੀਫਿਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ (AI) ਨਾਲ ਜੁੜੇ ਖਤਰਿਆਂ ਨੂੰ ਲੈ ਕੇ ਚਿੰਤਾਵਾਂ ਲਗਾਤਾਰ ਵੱਧ ਰਹੀਆਂ ਹਨ। ਕੁਝ ਦਿਨ ਪਹਿਲਾਂ ਹੀ ਐਂਥਰੋਪਿਕ ਦੇ ਸਾਬਕਾ ਰਿਸਰਚਰ ਜੈਕਬ ਕੌਕਸਨ ਨੇ ਚੇਤਾਵਨੀ ਦਿੱਤੀ ਸੀ ਕਿ AI ਇਸ ਦਹਾਕੇ ਦੇ ਅੰਤ ਤੱਕ ਸਾਰੇ ਮਨੁੱਖਾਂ ਦੀ ਜਾਨ ਲੈ ਸਕਦਾ ਹੈ। ਹੁਣ AI ਸੁਰੱਖਿਆ ਨਾਲ ਜੁੜੇ ਇੱਕ ਹੋਰ ਰਿਸਰਚਰ ਨੇ ਇੱਕ ਵੱਡੀ AI ਲੈਬ ਛੱਡ ਦਿੱਤੀ ਹੈ ਅਤੇ ਗੰਭੀਰ ਚੇਤਾਵਨੀ ਦਿੱਤੀ ਹੈ।
ਗੂਗਲ ਡੀਪਮਾਈਂਡ ਦੀ AGI ਸੇਫਟੀ ਟੀਮ ਵਿੱਚ ਕੰਮ ਕਰਨ ਵਾਲੇ Josh Engels ਨੇ ਕੰਪਨੀ ਛੱਡ ਦਿੱਤੀ ਹੈ ਅਤੇ AI ਦਾ ਮੁਲਾਂਕਣ ਕਰਨ ਵਾਲੀ ਸੰਸਥਾ METR ਨਾਲ ਜੁੜ ਗਏ ਹਨ। ਉਨ੍ਹਾਂ ਕਿਹਾ ਕਿ ਉਨ੍ਹਾਂ ਨੇ ਇਹ ਕਦਮ ਇਸ ਲਈ ਚੁੱਕਿਆ ਕਿਉਂਕਿ ਉਨ੍ਹਾਂ ਨੂੰ ਲੱਗਦਾ ਹੈ ਕਿ ਐਡਵਾਂਸਡ AI ਨਾਲ ਜੁੜੇ ਖਤਰੇ ਬਹੁਤ ਜ਼ਿਆਦਾ ਵੱਧ ਗਏ ਹਨ।
ਐਂਥਰੋਪਿਕ ਅਤੇ ਓਪਨਏਆਈ ਦੇ ਆਫਰ ਵੀ ਠੁਕਰਾਏ
ਐਕਸ ’ਤੇ ਇੱਕ ਪੋਸਟ ਵਿੱਚ Engels ਨੇ ਦੱਸਿਆ ਕਿ ਉਨ੍ਹਾਂ ਨੇ ਤਿੰਨ ਹਫ਼ਤੇ ਪਹਿਲਾਂ ਡੀਪਮਾਈਂਡ ਛੱਡਿਆ ਸੀ। ਉਨ੍ਹਾਂ ਕਿਹਾ ਕਿ ਉਨ੍ਹਾਂ ਨੂੰ ਕੰਪਨੀ ਵਿੱਚ ਆਪਣਾ ਕੰਮ ਪਸੰਦ ਸੀ ਅਤੇ ਉਨ੍ਹਾਂ ਨੇ Anthropic ਅਤੇ OpenAI ਦੇ ਆਫਰ ਵੀ ਠੁਕਰਾ ਦਿੱਤੇ ਸਨ।
Engels ਨੇ ਲਿਖਿਆ, “ਹੁਣ ਮੈਨੂੰ ਲੱਗਦਾ ਹੈ ਕਿ ਅਗਲੇ ਪੰਜ ਸਾਲਾਂ ਵਿੱਚ AI ਸਿਸਟਮਾਂ ਤੋਂ ਭਾਰੀ ਨੁਕਸਾਨ ਹੋਣ ਦੀ ਸੰਭਾਵਨਾ ਬਹੁਤ ਜ਼ਿਆਦਾ ਹੈ।” ਉਨ੍ਹਾਂ ਅੱਗੇ ਕਿਹਾ ਕਿ ਉਨ੍ਹਾਂ ਨੂੰ ਇਸ ਦੀ ਸਹੀ ਸੰਭਾਵਨਾ ਦਾ ਪਤਾ ਨਹੀਂ ਹੈ, ਪਰ ਉਨ੍ਹਾਂ ਦੀ ਨਜ਼ਰ ਵਿੱਚ ਇਹ ਖਤਰਾ ਇੰਨਾ ਵੱਡਾ ਹੈ ਕਿ AI ਸੁਰੱਖਿਆ ਨੂੰ ਦੁਨੀਆ ਦੀਆਂ ਸਭ ਤੋਂ ਮਹੱਤਵਪੂਰਨ ਸਮੱਸਿਆਵਾਂ ਵਿੱਚੋਂ ਇੱਕ ਬਣਾਇਆ ਜਾ ਸਕਦਾ ਹੈ।
AI ਨੂੰ ਲੈ ਕੇ ਇੰਨੇ ਚਿੰਤਤ ਕਿਉਂ ਹਨ Engels?
ਉਨ੍ਹਾਂ ਦੀ ਚਿੰਤਾ ਦਾ ਮੁੱਖ ਕਾਰਨ ਉਹ ਪ੍ਰਕਿਰਿਆ ਹੈ ਜਿਸਨੂੰ AI ਰਿਸਰਚਰ ‘ਰਿਕਰਸਿਵ ਸੈਲਫ-ਇੰਪਰੂਵਮੈਂਟ’ (ਆਪਣੇ ਆਪ ਨੂੰ ਵਾਰ-ਵਾਰ ਬਿਹਤਰ ਬਣਾਉਣਾ) ਕਹਿੰਦੇ ਹਨ। ਇਸ ਵਿੱਚ ਇੱਕ AI ਸਿਸਟਮ ਕਿਸੇ ਦੂਜੇ AI ਸਿਸਟਮ ਨੂੰ ਡਿਜ਼ਾਈਨ ਕਰਨ ਜਾਂ ਉਸਨੂੰ ਬਿਹਤਰ ਬਣਾਉਣ ਵਿੱਚ ਸਮਰੱਥ ਹੋ ਜਾਂਦਾ ਹੈ। ਫਿਰ ਨਵਾਂ ਸਿਸਟਮ AI ਨੂੰ ਹੋਰ ਬਿਹਤਰ ਬਣਾਉਣ ਵਿੱਚ ਹੋਰ ਵੀ ਮਾਹਿਰ ਹੋ ਸਕਦਾ ਹੈ, ਜਿਸ ਨਾਲ ਇੱਕ ਫੀਡਬੈਕ ਲੂਪ ਬਣ ਜਾਂਦਾ ਹੈ। ਜੇਕਰ ਅਜਿਹਾ ਸਿਸਟਮ ਮਨੁੱਖੀ ਟੀਚਿਆਂ ਦੇ ਅਨੁਕੂਲ ਨਹੀਂ ਹੈ ਤਾਂ ਇਸ ਦੇ ਨਤੀਜੇ ਗੰਭੀਰ ਹੋ ਸਕਦੇ ਹਨ। ਉਨ੍ਹਾਂ ਚੇਤਾਵਨੀ ਦਿੱਤੀ ਕਿ ਗਲਤ ਤਰੀਕੇ ਨਾਲ ਕੰਮ ਕਰਨ ਵਾਲਾ ਰਿਕਰਸਿਵ ਸੈਲਫ-ਇੰਪਰੂਵਮੈਂਟ ਲੂਪ ਵਿਨਾਸ਼ਕਾਰੀ ਸਾਬਤ ਹੋ ਸਕਦਾ ਹੈ।
AI ਨਾਲ ਜੁੜੀਆਂ ਹਾਲੀਆ ਘਟਨਾਵਾਂ ਦਾ ਵੀ ਕੀਤਾ ਜ਼ਿਕਰ
ਉਨ੍ਹਾਂ ਨੇ AI ਸਿਸਟਮਾਂ ਨਾਲ ਜੁੜੀਆਂ ਹਾਲੀਆ ਕਈ ਘਟਨਾਵਾਂ ਵੱਲ ਵੀ ਇਸ਼ਾਰਾ ਕੀਤਾ। ਉਨ੍ਹਾਂ ਕਿਹਾ ਕਿ ਰਿਸਰਚਰਾਂ ਨੇ ਦੇਖਿਆ ਹੈ ਕਿ ਕੁਝ ਮਾਡਲ ਆਪਸ ਵਿੱਚ ਮਿਲੀਭੁਗਤ ਕਰ ਰਹੇ ਹਨ, ਕੰਪਨੀਆਂ ਨੂੰ ਹੈਕ ਕਰਨ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰ ਰਹੇ ਹਨ, ਆਪਣੀਆਂ ਗਤੀਵਿਧੀਆਂ ਨੂੰ ਲੁਕਾ ਰਹੇ ਹਨ ਅਤੇ ਸੋਸ਼ਲ ਇੰਜੀਨੀਅਰਿੰਗ ਰਾਹੀਂ ਮਨੁੱਖਾਂ ਨੂੰ ਪ੍ਰਭਾਵਿਤ ਕਰਨ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰ ਰਹੇ ਹਨ।
ਉਨ੍ਹਾਂ ਦਾ ਤਰਕ ਇਹ ਨਹੀਂ ਹੈ ਕਿ ਇਹ ਵੱਖ-ਵੱਖ ਘਟਨਾਵਾਂ ਆਪਣੇ ਆਪ ਵਿੱਚ ਨਿਸ਼ਚਿਤ ਤੌਰ ’ਤੇ ਵਿਨਾਸ਼ਕਾਰੀ ਹਨ। ਵੱਡੀ ਚਿੰਤਾ ਇਹ ਹੈ ਕਿ ਤੇਜ਼ੀ ਨਾਲ ਸਮਰੱਥ ਹੁੰਦੇ ਜਾ ਰਹੇ AI ਸਿਸਟਮਾਂ ਦੇ ਵਿਵਹਾਰ ਬਾਰੇ ਇਹ ਘਟਨਾਵਾਂ ਕੀ ਸੰਕੇਤ ਦਿੰਦੀਆਂ ਹਨ। Engels ਨੇ ਕਿਹਾ ਕਿ ਮੌਜੂਦਾ AI ਮਾਡਲ ਸਮੇਂ ਦੇ ਨਾਲ ਜ਼ਿਆਦਾ ਅਲਾਈਨ ਹੋਣ ਦੀ ਬਜਾਏ ਘੱਟ ਅਲਾਈਨ ਹੁੰਦੇ ਜਾ ਰਹੇ ਹਨ। ਉਨ੍ਹਾਂ ਦਾ ਮੰਨਣਾ ਹੈ ਕਿ ਇਹ AI ਇੰਡਸਟਰੀ ਲਈ ਇੱਕ ਚੇਤਾਵਨੀ ਹੋਣੀ ਚਾਹੀਦੀ ਹੈ, ਇਸ ਤੋਂ ਪਹਿਲਾਂ ਕਿ ਉਹ ਆਪਣੇ ਆਪ ਨੂੰ ਬਿਹਤਰ ਬਣਾਉਣ ਵਾਲੇ AI ਵੱਲ ਅਗਲਾ ਵੱਡਾ ਕਦਮ ਚੁੱਕੇ।
AI ਡਿਵੈਲਪਮੈਂਟ ਦੀ ਰਫ਼ਤਾਰ ਕਿਵੇਂ ਤੈਅ ਕੀਤੀ ਜਾਵੇ?
ਉਨ੍ਹਾਂ ਕਿਹਾ ਕਿ ਇਸ ਦਾ ਹੱਲ ਲਾਜ਼ਮੀ ਤੌਰ ’ਤੇ AI ਡਿਵੈਲਪਮੈਂਟ ਨੂੰ ਪੂਰੀ ਤਰ੍ਹਾਂ ਰੋਕਣਾ ਨਹੀਂ ਹੈ। ਇਸ ਦੀ ਬਜਾਏ ਉਹ ਚਾਹੁੰਦੇ ਹਨ ਕਿ AI ਡਿਵੈਲਪਮੈਂਟ ਦੀ ਰਫ਼ਤਾਰ ਇੰਨੀ ਹੌਲੀ ਕੀਤੀ ਜਾਵੇ ਕਿ ਸੁਰੱਖਿਆ ਨਾਲ ਜੁੜੀ ਰਿਸਰਚ ਵੀ ਉਸ ਦੇ ਨਾਲ-ਨਾਲ ਚੱਲ ਸਕੇ। ਉਨ੍ਹਾਂ ਲਿਖਿਆ ਕਿ AI ਡਿਵੈਲਪਮੈਂਟ ਦੀ ਰਫ਼ਤਾਰ ਇਸ ਤਰ੍ਹਾਂ ਤੈਅ ਕੀਤੀ ਜਾਣੀ ਚਾਹੀਦੀ ਹੈ ਕਿ AI ਦੀਆਂ ਸਮਰੱਥਾਵਾਂ, ਮਾਡਲਾਂ ਨੂੰ ਸਹੀ ਦਿਸ਼ਾ ਵਿੱਚ ਲਿਆਉਣ ਦੀ ਮਨੁੱਖਾਂ ਦੀ ਸਮਰੱਥਾ ਤੋਂ ਅੱਗੇ ਨਾ ਨਿਕਲ ਜਾਣ।
METR ਵਿੱਚ ਉਨ੍ਹਾਂ ਦੀ ਨਵੀਂ ਭੂਮਿਕਾ ਇਸ ਗੱਲ ’ਤੇ ਕੇਂਦਰਿਤ ਹੋਵੇਗੀ ਕਿ AI ਮਿਸਅਲਾਈਨਮੈਂਟ ਕਿੱਥੋਂ ਪੈਦਾ ਹੁੰਦਾ ਹੈ, ਮੌਜੂਦਾ ਸੁਰੱਖਿਆ ਉਪਾਅ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਹਨ ਜਾਂ ਨਹੀਂ ਅਤੇ ਕੀ ਰਿਸਰਚਰ ਅਸਲ ਵਿੱਚ AI ਅਲਾਈਨਮੈਂਟ ਦੀ ਸਮੱਸਿਆ ਨੂੰ ਹੱਲ ਕਰਨ ਦੀ ਸਹੀ ਦਿਸ਼ਾ ਵਿੱਚ ਅੱਗੇ ਵੱਧ ਰਹੇ ਹਨ। ਉਨ੍ਹਾਂ ਇਹ ਵੀ ਕਿਹਾ ਕਿ METR ਦਾ ਕੰਮ ਮਹੱਤਵਪੂਰਨ ਹੈ, ਪਰ ਇਕੱਲੇ ਇਸ ਨਾਲ ਕੰਮ ਪੂਰਾ ਨਹੀਂ ਹੋਵੇਗਾ। ਉਨ੍ਹਾਂ ਨੇ ਅਜਿਹੀਆਂ ਹੋਰ ਸੰਸਥਾਵਾਂ ਦੀ ਲੋੜ ’ਤੇ ਜ਼ੋਰ ਦਿੱਤਾ ਜੋ AI ਕੰਪਨੀਆਂ ਦਾ ਸੁਤੰਤਰ ਤੌਰ ’ਤੇ ਮੁਲਾਂਕਣ ਕਰ ਸਕਣ ਅਤੇ ਉਨ੍ਹਾਂ ਨੂੰ ਜਵਾਬਦੇਹ ਬਣਾ ਸਕਣ।