ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਦੀਆਂ ਚਿੰਤਾਵਾਂ ਕਾਰਨ ਓਪਨ ਏਆਈ ਨੇ ਆਪਣੇ ਆਗਾਮੀ ਏਆਈ ਮਾਡਲ 'ਐਸਟਰਾ' 'ਤੇ ਕੰਮ ਰੋਕਿਆ

ਵਾਸ਼ਿੰਗਟਨ, (ਏਐੱਨਆਈ): ਓਪਨ ਏਆਈ ਨੇ ਆਪਣੇ ਆਗਾਮੀ ਏਆਈ ਮਾਡਲ ਐਸਟਰਾ ’ਤੇ ਕੰਮ ਰੋਕ ਦਿੱਤਾ ਹੈ ਕਿਉਂਕਿ ਅੰਦਰੂਨੀ ਮੁਲਾਂਕਣ ਵਿਚ ਏਜੈਂਟਿਕ ਕੋਡਿੰਗ (ਏਆਈ ਏਜੈਂਟਾਂ ਦਾ ਆਪਣੇ ਆਪ ਕੰਮ ਕਰਨ ਲੱਗਣਾ) ਅਤੇ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਵਿਚ ਸੰਭਾਵਤ ਖ਼ਤਰਨਾਕ ਵਿਕਾਸ ਦਿਸ ਰਿਹਾ ਹੈ। ਕੰਪਨੀ ਇਸ ਗੱਲ ਤੋਂ ਇਨਕਾਰ ਨਹੀਂ ਕਰਦੀ ਕਿ ਸਿਸਟਮ ਵਿਚ ‘ਕ੍ਰਿਟਿਕਲ ਸਾਈਬਰ ਸਮਰੱਥਾਵਾਂ’ ਹੋ ਸਕਦੀਆਂ ਹਨ।

ਓਪਨ ਏਆਈ ਦੇ ਪ੍ਰੀਪੇਅਰਡਨੈੱਸ ਫਰੇਮਵਰਕ ਤਹਿਤ, ਅਜਿਹੇ ਮਾਡਲਾਂ ਵਿਚ ਸਮਰੱਥਾਵਾਂ ਦੇ ਸੰਭਾਵਤ ਵਿਕਾਸ ਤੋਂ ਸਖ਼ਤ ਸੁਰੱਖਿਆ ਉਪਾਵਾਂ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ, ਖ਼ਾਸ ਕਰਕੇ ਉਦੋਂ ਜਦਕਿ ਮਾਡਲ ਤੋਂ ਗੰਭੀਰ ਨੁਕਸਾਨ ਹੋਣ ਦਾ ਖ਼ਤਰਾ ਪੈਦਾ ਹੋ ਸਕਦਾ ਹੈ। ਓਪਨ ਏਆਈ ਨੇ ਕਿਹਾ ਹੈ ਕਿ ਉਹ ਆਪਣੇ ਸੁਰੱਖਿਆ ਨਿਯੰਤਰਣਾਂ ਨੂੰ ਮਜ਼ਬੂਤ ਕਰਦੇ ਹੋਏ ਐਸਟਰਾ ਨਾਲ ਜੁੜੀਆਂ ਗਤੀਵਿਧੀਆਂ ਨੂੰ ‘ਰੋਕ’ ਰਿਹਾ ਹੈ। ਕੰਪਨੀ ਦੀਆਂ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਗਾਈਡਲਾਈਨਾਂ ਤਹਿਤ ਉਨ੍ਹਾਂ ਮਾਡਲਾਂ ਲਈ ਵਾਧੂ ਸੁਰੱਖਿਆ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ ਜੋ ਵੱਡੇ ਪੱਧਰ ’ਤੇ ਸਾਈਬਰ ਹਮਲਿਆਂ ਅਤੇ ਖ਼ਾਮੀਆਂ ਤੋਂ ਫ਼ਾਇਦਾ ਚੁੱਕਣ ਦਾ ਨਵਾਂ ਜੋਖ਼ਮ ਪੈਦਾ ਕਰਦੇ ਹਨ।

ਦਰਅਸਲ, ਐਸਟਰਾ ਨੂੰ ਸ਼ੁਰੂ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਓਪਨ ਏਆਈ ਵਾਧੂ ਸੁਰੱਖਿਆ ਉਪਾਵਾਂ ਨੂੰ ਲਾਗੂ ਕਰਨ ਦੀ ਯੋਜਨਾ ਬਣਾ ਰਿਹਾ ਹੈ। ਇਸ ਵਿਚ ਨਵੇਂ ਸੁਰੱਖਿਆ ਉਪਾਅ ਲਾਗੂ ਹੋਣ ਤੱਕ ਮਾਡਲ ’ਤੇ ਕੰਮ ਨੂੰ ਰੋਕਣਾ, ਸੀਮਿਤ ਨੈੱਟਵਰਕ ਅਤੇ ਟੂਲ ਅਕਸੈਸ ਨਾਲ ਟੈਸਟਿੰਗ ਦੇ ਅਲੱਗ-ਅਲੱਗ ਮਾਹੌਲ ਦਾ ਇਸਤੇਮਾਲ ਕਰਨਾ, ਸੈਂਡਬਾਕਸਡ ਐਗਜ਼ੀਕਿਊਸ਼ਨ (ਸੁਰੱਖਿਆ ਅਤੇ ਟੈਸਟਿੰਗ ਦਾ ਤਰੀਕਾ) ਸ਼ਾਮਲ ਕਰਨਾ ਅਤੇ ਮੋਨੀਟਰਿੰਗ ਸਮਰੱਥਾਵਾਂ ਨੂੰ ਵਧਾਉਣਾ ਸ਼ਾਮਲ ਹੈ। ਓਪਨ ਏਆਈ ਦਾ ਇਹ ਵੀ ਕਹਿਣਾ ਹੈ ਕਿ ਉਹ ਐਸਟਰਾ ਨੂੰ ਟੈਸਟ ਕਰਨ ਲਈ ਸਬੰਧਤ ਸਰਕਾਰੀ ਏਜੰਸੀਆਂ ਅਤੇ ਏਆਈ ਸੁਰੱਖਿਆ ਸੰਸਥਾਵਾਂ ਨਾਲ ਕੰਮ ਕਰੇਗਾ।