ਐਂਥਰੋਪਿਕ ਦੇ ਖੋਜਕਾਰ ਕਿਉਂ ਮੰਨ ਰਹੇ ਹਨ ਹੈ ਕਿ, ਏਆਈ ਵੱਲੋਂ 'ਸਾਰੇ ਮਨੁੱਖਾਂ ਨੂੰ ਖ਼ਤਮ ਕਰ ਦੇਣ' ਦੀ ਸੰਭਾਵਨਾ 10% ਤੋਂ ਵੱਧ ਹੈ
ਤਸਵੀਰ ਸਰੋਤ, Getty Images
- ਲੇਖਕ, ਟੌਮ ਗੇਰਕਿਨ
- ਰੋਲ, ਤਕਨਾਲੋਜੀ ਰਿਪੋਰਟਰ
- ਪ੍ਰਕਾਸ਼ਿਤ
- ਪੜ੍ਹਨ ਦਾ ਸਮਾਂ: 6 ਮਿੰਟ
ਐਂਥਰੋਪਿਕ ਦੇ ਇੱਕ ਮੋਹਰੀ ਸੇਫਟੀ ਖੋਜਕਾਰ ਨੇ ਚੇਤਾਵਨੀ ਦਿੱਤੀ ਹੈ ਕਿ ਏਆਈ ਇੰਨੀ ਤੇਜ਼ੀ ਨਾਲ ਅੱਗੇ ਵੱਧ ਰਿਹਾ ਹੈ ਕਿ ਉਨ੍ਹਾਂ ਦੇ ਮੰਨਣ ਮੁਤਾਬਕ ਅਗਲੇ ਇੱਕ ਦਹਾਕੇ ਦੇ ਅੰਦਰ ਇਸ ਦੇ "ਸਾਰੇ ਮਨੁੱਖਾਂ ਨੂੰ ਖ਼ਤਮ ਕਰ ਦੇਣ" ਦੀ 10% ਤੋਂ ਵੱਧ ਸੰਭਾਵਨਾ ਹੈ।
ਇਵਾਨ ਹਿਊਬਿੰਗਰ ਨੇ ਐਕਸ 'ਤੇ ਇੱਕ ਪੋਸਟ ਵਿੱਚ ਕਿਹਾ ਕਿ ਇਸ ਸਮੇਂ ਮੌਜੂਦ ਮਾਡਲਾਂ ਤੋਂ ਖ਼ਤਰਾ "ਘੱਟ" ਹੈ, ਪਰ ਉਹ ਇਸ ਗੱਲ ਨੂੰ ਲੈ ਕੇ "ਚਿੰਤਤ" ਹਨ ਕਿ ਤਕਨਾਲੋਜੀ ਛੇਤੀ ਹੀ ਇਸ ਹੱਦ ਤੱਕ ਵਿਕਸਤ ਅਤੇ ਆਪਣੇ ਆਪ ਵਿੱਚ ਸੁਧਾਰ ਕਰ ਸਕਦੀ ਹੈ ਕਿ ਇਹ ਮਨੁੱਖਤਾ ਲਈ ਹੋਂਦ ਦਾ ਖ਼ਤਰਾ ਬਣ ਜਾਵੇ।
ਉਨ੍ਹਾਂ ਨੇ ਇਹ ਨਹੀਂ ਦੱਸਿਆ ਕਿ ਭਵਿੱਖ ਵਿੱਚ ਏਆਈ ਸਿਸਟਮ ਕਿਸ ਤਰ੍ਹਾਂ ਮਨੁੱਖਾਂ ਦੇ ਪੂਰੀ ਤਰ੍ਹਾਂ ਖ਼ਤਮ ਹੋ ਜਾਣ ਦਾ ਕਾਰਨ ਬਣ ਸਕਦੇ ਹਨ।
ਪਰ ਉਨ੍ਹਾਂ ਦੀਆਂ ਟਿੱਪਣੀਆਂ, ਏਆਈ ਬਾਰੇ ਲਗਾਤਾਰ ਸਾਹਮਣੇ ਆ ਰਹੀਆਂ ਵਧਦੀਆਂ ਗੰਭੀਰ ਚੇਤਾਵਨੀਆਂ ਦੀ ਲੜੀ ਵਿੱਚ ਤਾਜ਼ਾ ਹਨ। ਇਸ ਬਹਿਸ ਦਾ ਰੁਖ਼ ਹੁਣ ਇਸ ਗੱਲ ਤੋਂ ਬਦਲ ਰਿਹਾ ਹੈ ਕਿ ਏਆਈ ਵਾਕਈ ਕੋਈ ਖ਼ਤਰਾ ਪੈਦਾ ਕਰਦਾ ਹੈ ਜਾਂ ਨਹੀਂ, ਸਗੋਂ ਇਹ ਗੱਲ ਹੋ ਰਹੀ ਹੈ ਕਿ ਇਹ ਖ਼ਤਰਾ ਕਿੰਨਾ ਵੱਡਾ ਹੈ।
ਹਿਊਬਿੰਗਰ ਦੀ ਇਹ ਟਿੱਪਣੀਆਂ ਐਕਸ 'ਤੇ ਜੈਕਬ ਕੌਕਸਨ ਦੀ ਇੱਕ ਹੋਰ ਪੋਸਟ ਦੇ ਜਵਾਬ ਵਿੱਚ ਸਨ। ਕੌਕਸਨ ਨੇ ਆਪਣੇ ਆਪ ਨੂੰ ਏਆਈ ਖੋਜਕਾਰ ਦੱਸਿਆ, ਜੋ ਹਾਲ ਹੀ ਵਿੱਚ ਐਂਥਰੋਪਿਕ ਛੱਡ ਚੁੱਕੇ ਹਨ ਅਤੇ ਇਸ ਤੋਂ ਪਹਿਲਾਂ ਓਪਨਏਆਈ ਵਿੱਚ ਕੰਮ ਕਰ ਚੁੱਕੇ ਹਨ।
ਉਨ੍ਹਾਂ ਲਿਖਿਆ, "ਦੋਵੇਂ ਕੰਪਨੀਆਂ ਜ਼ਿੰਮੇਵਾਰੀ ਨਾਲ ਕੰਮ ਨਹੀਂ ਕਰ ਰਹੀਆਂ।"
"ਇਹ ਜਲਦ ਹੀ ਅਜਿਹੇ ਸੁਪਰਹਿਊਮਨ ਸਿਸਟਮ ਹੋਣਗੇ, ਜੋ ਕਿਸੇ ਵੀ ਚੀਜ਼ ਨੂੰ ਹੈਕ ਕਰ ਸਕਦੇ ਹਨ, ਰਾਤੋ-ਰਾਤ ਕਿਸੇ ਵੀ ਖੇਤਰ ਵਿੱਚ ਕ੍ਰਾਂਤੀ ਲਿਆ ਸਕਦੇ ਹਨ ਅਤੇ ਅਸਲ ਤਾਕਤ ਤੇ ਸਰੋਤ ਹਾਸਲ ਕਰ ਸਕਦੇ ਹਨ।"
ਇਸੇ ਦੌਰਾਨ, ਫਾਇਨੈਂਸ਼ਲ ਟਾਈਮਜ਼ ਨੇ ਰਿਪੋਰਟ ਦਿੱਤੀ ਕਿ ਐਂਥਰੋਪਿਕ ਨੇ ਆਪਣਾ ਨਵਾਂ ਮਾਡਲ ਯੂਕੇ ਦੀ ਏਆਈ ਸੇਫ਼ਟੀ ਇੰਸਟੀਚਿਊਟ (ਏਆਈਐੱਸਆਈ) ਨੂੰ ਨਹੀਂ ਦਿੱਤਾ। ਇਹ ਏਆਈ ਦੇ ਖ਼ਤਰੇ ਦਾ ਮੁਲਾਂਕਣ ਕਰਨ ਵਾਲੀਆਂ ਦੁਨੀਆ ਦੀਆਂ ਪ੍ਰਮੁੱਖ ਸੰਸਥਾਵਾਂ ਵਿੱਚੋਂ ਇੱਕ ਹੈ।
ਬੀਬੀਸੀ ਨੇ ਟਿੱਪਣੀ ਲਈ ਐਂਥਰੋਪਿਕ ਨਾਲ ਸੰਪਰਕ ਕੀਤਾ ਹੈ।
ਕੈਬਿਨੇਟ ਆਫ਼ਿਸ ਦੇ ਇੱਕ ਬੁਲਾਰੇ ਨੇ ਇਸ ਗੱਲ 'ਤੇ ਕੋਈ ਟਿੱਪਣੀ ਨਹੀਂ ਕੀਤੀ ਕਿ ਕੀ ਨਵਾਂ ਮਾਡਲ ਏਆਈਐੱਸਆਈ ਨੂੰ ਨਹੀਂ ਦਿੱਤਾ ਗਿਆ ਸੀ। ਇਸ ਦੀ ਬਜਾਏ ਉਨ੍ਹਾਂ ਕਿਹਾ ਕਿ ਇਹ "ਮਾਡਲਾਂ ਨੂੰ ਹੋਰ ਸੁਰੱਖਿਅਤ ਬਣਾਉਣ ਲਈ ਐਂਥਰੋਪਿਕ ਸਮੇਤ ਉਦਯੋਗਿਕ ਭਾਈਵਾਲਾਂ ਨਾਲ ਨੇੜਿਓਂ ਸਹਿਯੋਗ ਜਾਰੀ ਰੱਖਦਾ ਹੈ।"
ਕੈਂਬ੍ਰਿਜ ਯੂਨੀਵਰਸਿਟੀ ਵਿੱਚ ਮਸ਼ੀਨ ਲਰਨਿੰਗ ਦੇ ਪ੍ਰੋਫ਼ੈਸਰ ਨੀਲ ਲਾਰੈਂਸ ਨੇ ਬੀਬੀਸੀ ਰੇਡੀਓ 4 ਦੇ ਟੁਡੇ ਪ੍ਰੋਗਰਾਮ ਨੂੰ ਦੱਸਿਆ ਕਿ ਇਹ ਰਿਪੋਰਟ ਭਰੋਸੇਯੋਗ ਹੈ।
ਉਨ੍ਹਾਂ ਕਿਹਾ, "ਮੇਰਾ ਖ਼ਿਆਲ ਹੈ ਕਿ ਇਹ ਹੈਰਾਨੀਜਨਕ ਨਹੀਂ ਹੈ, ਖ਼ਾਸ ਤੌਰ 'ਤੇ ਅਜਿਹੇ ਮਾਹੌਲ ਵਿੱਚ ਜਿੱਥੇ ਇਹ ਧਾਰਨਾ ਹੈ ਕਿ ਅਮਰੀਕਾ ਏਆਈ ਨੂੰ ਆਪਣੇ ਅਤੇ ਚੀਨ ਵਿਚਾਲੇ ਇੱਕ ਦੌੜ ਵਜੋਂ ਦੇਖਦਾ ਹੈ ਅਤੇ ਹੋਰ ਵੱਧ ਇਕਾਂਤਵਾਦੀ ਰੁਖ਼ ਅਪਣਾ ਰਿਹਾ ਹੈ।"
"ਇਹ ਹੋ ਸਕਦਾ ਹੈ ਕਿ ਪ੍ਰਸ਼ਾਸਨ ਇਹ ਕਹਿ ਰਿਹਾ ਹੋਵੇ ਕਿ ਉਨ੍ਹਾਂ ਨੂੰ ਆਪਣੇ ਕੁਝ ਸਹਿਯੋਗੀਆਂ ਨਾਲ ਸਹਿਯੋਗ ਘਟਾ ਦੇਣਾ ਚਾਹੀਦਾ ਹੈ।"
ਸੁਪਰਇੰਟੈਲੀਜੈਂਸ ਲਈ ਕੋਈ ਯੋਜਨਾ ਨਹੀਂ
ਤਸਵੀਰ ਸਰੋਤ, Getty Images
ਇੱਕ ਪੋਸਟ ਵਿੱਚ, ਜਿਸ ਨੂੰ ਇੱਕ ਕਰੋੜ ਤੋਂ ਵੱਧ ਵਾਰ ਦੇਖਿਆ ਜਾ ਚੁੱਕਾ ਹੈ, ਹਿਊਬਿੰਗਰ ਨੇ ਕਿਹਾ ਕਿ "ਅਸੀਂ ਸੱਚਮੁੱਚ ਪੂਰੀ ਗੰਭੀਰਤਾ ਨਾਲ ਮੰਨਦੇ ਹਾਂ" ਕਿ ਏਆਈ ਮਨੁੱਖੀ ਪ੍ਰਜਾਤੀ ਦੇ ਖ਼ਾਤਮੇ ਦਾ ਖ਼ਤਰਾ ਪੈਦਾ ਕਰਦਾ ਹੈ।
ਉਨ੍ਹਾਂ ਅੱਗੇ ਕਿਹਾ, "ਮੇਰਾ ਮੰਨਣਾ ਹੈ ਕਿ ਐਂਥਰੋਪਿਕ ਆਪਣੀ ਪੂਰੀ ਕੋਸ਼ਿਸ਼ ਕਰ ਰਹੀ ਹੈ, ਪਰ ਸਾਡੇ ਕੋਲ ਅਜੇ ਤੱਕ ਸੁਪਰਇੰਟੈਲੀਜੈਂਸ ਲਈ ਅਲਾਈਨਮੈਂਟ ਦੀ ਸਮੱਸਿਆ ਹੱਲ ਕਰਨ ਦੀ ਕੋਈ ਯੋਜਨਾ ਨਹੀਂ ਹੈ ਅਤੇ ਨਾ ਹੀ ਅਸੀਂ ਸਪੱਸ਼ਟ ਤੌਰ 'ਤੇ ਇਸ ਦਿਸ਼ਾ ਵਿੱਚ ਅੱਗੇ ਵੱਧ ਰਹੇ ਹਾਂ।"
ਹਿਊਬਿੰਗਰ ਏਆਈ ਅਲਾਈਨਮੈਂਟ ਦੇ ਖੇਤਰ ਵਿੱਚ ਕੰਮ ਕਰਦੇ ਹਨ। ਇਸ ਦਾ ਮਕਸਦ ਮਨੁੱਖਾਂ ਦੇ ਨੈਤਿਕ ਵਿਚਾਰਾਂ ਅਤੇ ਸਿਧਾਂਤਾਂ ਨੂੰ ਤਕਨਾਲੋਜੀ ਵਿੱਚ ਸ਼ਾਮਲ ਕਰਨਾ ਹੈ।
ਦੂਜੇ ਸ਼ਬਦਾਂ ਵਿੱਚ, ਇਸ ਦਾ ਟੀਚਾ ਏਆਈ ਨੂੰ ਉਨ੍ਹਾਂ ਕਦਰਾਂ-ਕੀਮਤਾਂ ਦੇ ਅਨੁਸਾਰ ਰੱਖਣਾ ਹੈ, ਜਿਨ੍ਹਾਂ ਨੂੰ ਮਨੁੱਖ ਮਹੱਤਵ ਦਿੰਦੇ ਹਨ।
ਕਈ ਪ੍ਰਮੁੱਖ ਖੋਜਕਾਰਾਂ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਇਹ ਕੋਸ਼ਿਸ਼ਾਂ ਨਾਕਾਮ ਹੁੰਦੀਆਂ ਦਿਖਾਈ ਦੇ ਰਹੀਆਂ ਹਨ। ਇਸ ਦੀ ਇੱਕ ਮਿਸਾਲ ਇਸ ਗਰਮੀਆਂ ਦੌਰਾਨ ਵਾਪਰੀਆਂ ਕਈ ਘਟਨਾਵਾਂ ਹਨ, ਜਿਨ੍ਹਾਂ ਵਿੱਚ ਏਆਈ ਏਜੰਟਾਂ, ਅਰਥਾਤ ਅਜਿਹੇ ਏਆਈ ਸਿਸਟਮ ਜਿਨ੍ਹਾਂ ਨੂੰ ਖ਼ੁਦਮੁਖ਼ਤਿਆਰ ਢੰਗ ਨਾਲ ਕੰਮ ਕਰਨ ਦੀ ਇਜਾਜ਼ਤ ਹੁੰਦੀ ਹੈ, ਨੇ ਸਾਈਬਰ ਹਮਲੇ ਕੀਤੇ।
ਅਗਸਤ ਤੋਂ ਐਂਥ੍ਰੋਪਿਕ ਦੀ ਸੁਰੱਖਿਆ ਰਿਪੋਰਟ ਵਿੱਚ, ਇਸਨੇ ਲਿਖਿਆ ਕਿ ਇਸਦੇ ਮਾਡਲਾਂ ਦੇ ਇੱਕ ਕਾਲਪਨਿਕ ਸ਼ਕਤੀਸ਼ਾਲੀ ਸੰਗਠਨ ਦੀਆਂ ਇੱਛਾਵਾਂ ਦੇ ਅਨੁਕੂਲ ਗਲਤ ਤਰੀਕੇ ਨਾਲ ਮੇਲ ਖਾਂਦੇ ਹੋਣ ਦਾ ਜੋਖ਼ਮ ਘੱਟ ਸੀ।
ਇਸ ਨੇ ਇਹ ਵੀ ਕਿਹਾ ਕਿ ਬਹੁਤ ਸਮਰੱਥ ਏਆਈ ਵੱਲੋਂ "ਆਟੋਮੇਟਿਡ ਰਿਸਰਚ ਐਂਡ ਡਿਵੈਲਪਮੈਂਟ" ਕਰਨ ਦਾ ਖ਼ਤਰਾ ਵੀ ਇਸੇ ਤਰ੍ਹਾਂ ਘੱਟ ਹੈ, ਜਿਸ ਨਾਲ "ਏਆਈ ਵੱਲੋਂ ਸ਼ੁਰੂ ਕੀਤਾ ਗਿਆ ਭਿਆਨਕ ਨੁਕਸਾਨ" ਹੋ ਸਕਦਾ ਹੈ। ਪਰ ਕੰਪਨੀ ਨੇ ਕਿਹਾ ਕਿ ਪਿਛਲੇ ਮੁਕਾਬਲੇ ਉਹ ਇਸ ਮੁਲਾਂਕਣ ਨੂੰ ਲੈ ਕੇ "ਘੱਟ ਭਰੋਸੇਮੰਦ" ਹੈ।
ਇਸ ਨੇ ਲਿਖਿਆ, "ਅਸੀਂ ਸੰਭਾਵਿਤ ਤੇਜ਼ੀ ਦੇ ਸ਼ੁਰੂਆਤੀ ਸੰਕੇਤ ਦੇਖ ਰਹੇ ਹਾਂ।"
ਇਸ ਵਿੱਚ ਇਹ ਵੀ ਕਿਹਾ ਗਿਆ ਕਿ ਬਹੁਤ ਸਮਰੱਥ ਏਆਈ ਵੱਲੋਂ "ਆਪਣੇ ਆਪ ਖੋਜ ਅਤੇ ਵਿਕਾਸ ਕਰਨ" ਦਾ ਖ਼ਤਰਾ ਵੀ ਇਸੇ ਤਰ੍ਹਾਂ ਘੱਟ ਹੈ, ਜਿਸ ਨਾਲ "ਏਆਈ ਵੱਲੋਂ ਸ਼ੁਰੂ ਕੀਤਾ ਗਿਆ ਤਬਾਹਕੁਨ ਨੁਕਸਾਨ" ਹੋ ਸਕਦਾ ਹੈ। ਪਰ ਇਸ ਨੇ ਕਿਹਾ ਕਿ ਇਸ ਮੁਲਾਂਕਣ ਬਾਰੇ ਇਹ ਪਹਿਲਾਂ ਦੇ ਮੁਕਾਬਲੇ "ਘੱਟ ਭਰੋਸੇਮੰਦ" ਹੈ।
ਤਸਵੀਰ ਸਰੋਤ, Getty Images
ਏਆਈ ਖੇਤਰ ਦੀਆਂ ਪ੍ਰਮੁੱਖ ਹਸਤੀਆਂ ਸਾਲਾਂ ਤੋਂ ਇਸ ਤਕਨਾਲੋਜੀ ਵੱਲੋਂ ਪੈਦਾ ਕੀਤੇ ਜਾ ਰਹੇ ਸੁਰੱਖਿਆ ਖ਼ਤਰੇ ਬਾਰੇ ਚੇਤਾਵਨੀ ਦਿੰਦੀਆਂ ਆ ਰਹੀਆਂ ਹਨ। 2023 ਵਿੱਚ ਓਪਨਏਆਈ, ਗੂਗਲ ਡੀਪਮਾਈਂਡ ਅਤੇ ਐਂਥਰੋਪਿਕ ਦੇ ਮੁਖੀਆਂ ਨੇ ਵੀ ਇਸੇ ਤਰ੍ਹਾਂ ਦੀ ਚੇਤਾਵਨੀ ਦਿੱਤੀ ਸੀ।
ਪਰ ਹਾਲ ਹੀ ਦੇ ਹਫ਼ਤਿਆਂ ਵਿੱਚ ਇਹ ਚੇਤਾਵਨੀਆਂ ਹੋਰ ਵੀ ਗੰਭੀਰ ਹੋ ਗਈਆਂ ਹਨ, ਕਿਉਂਕਿ ਅਜਿਹੇ ਸਬੂਤ ਸਾਹਮਣੇ ਆ ਰਹੇ ਹਨ ਕਿ ਕੰਪਨੀਆਂ ਨੂੰ ਏਆਈ ਨੂੰ ਕਾਬੂ ਵਿੱਚ ਰੱਖਣ ਵਿੱਚ ਮੁਸ਼ਕਲ ਆ ਰਹੀ ਹੈ।
ਇਸ ਮਹੀਨੇ ਦੀ ਸ਼ੁਰੂਆਤ ਵਿੱਚ, ਓਪਨਏਆਈ ਦੇ ਮੁੱਖ ਵਿਗਿਆਨੀ ਜੈਕਬ ਪਾਚੋਕੀ ਨੇ ਏਆਈ ਦੀ ਤਰੱਕੀ ਨੂੰ ਲੈ ਕੇ "ਬੇਹੱਦ ਸਾਵਧਾਨੀ" ਵਰਤਣ ਦੀ ਅਪੀਲ ਕੀਤੀ। ਉਨ੍ਹਾਂ ਚੇਤਾਵਨੀ ਦਿੱਤੀ ਕਿ ਇਹ ਯਕੀਨੀ ਬਣਾਉਣ ਲਈ ਹੋਰ ਦਖ਼ਲ ਦੀ ਲੋੜ ਪੈ ਸਕਦੀ ਹੈ ਕਿ "ਭਵਿੱਖ ਦਾ ਕੰਟ੍ਰੋਲ ਮਨੁੱਖਾਂ ਦੇ ਹੱਥਾਂ ਵਿੱਚ ਹੀ ਰਹੇ।"
ਹਾਲ ਹੀ ਦੇ ਮਹੀਨਿਆਂ ਵਿੱਚ ਇਸ ਖੇਤਰ ਦੀਆਂ ਕਈ ਪ੍ਰਮੁੱਖ ਹਸਤੀਆਂ ਏਆਈ ਦੇ ਵਿਕਾਸ ਦੀ ਰਫ਼ਤਾਰ ਹੌਲੀ ਕਰਨ ਦੀ ਮੰਗ ਕਰ ਰਹੀਆਂ ਹਨ, ਜਿਨ੍ਹਾਂ ਵਿੱਚ ਐਂਥਰੋਪਿਕ ਦੇ ਮੁਖੀ ਡੈਰੀਓ ਅਮੋਦੇਈ ਅਤੇ ਜੈਰਡ ਕਪਲਾਨ ਵੀ ਸ਼ਾਮਲ ਹਨ।
ਏਆਈ ਕੰਪਨੀਆਂ ਦੇ 1,300 ਕਰਮਚਾਰੀਆਂ ਵੱਲੋਂ ਦਸਤਖ਼ਤ ਕੀਤੇ ਇੱਕ ਖੁੱਲ੍ਹੇ ਪੱਤਰ ਵਿੱਚ ਉਨ੍ਹਾਂ ਨੇ ਅਮਰੀਕੀ ਸਰਕਾਰ ਨੂੰ "ਅੰਤਰਰਾਸ਼ਟਰੀ ਯਤਨ ਦਾ ਸਮਰਥਨ ਕਰਨ" ਦੀ ਅਪੀਲ ਕੀਤੀ, ਤਾਂ ਜੋ ਆਪਣੇ ਆਪ ਕੰਮ ਕਰਨ ਵਾਲੀ ਏਆਈ ਦੇ ਵਿਕਾਸ ਦੀ ਰਫ਼ਤਾਰ ਨੂੰ ਜਾਣਬੁੱਝ ਕੇ ਹੌਲੀ ਕਰਨ ਲਈ ਲੋੜੀਂਦੇ ਤਕਨੀਕੀ ਅਤੇ ਪ੍ਰਸ਼ਾਸਨਿਕ ਸਾਧਨ ਵਿਕਸਤ ਕੀਤੇ ਜਾ ਸਕਣ।
ਬੀਬੀਸੀ ਲਈ ਕਲੈਕਟਿਵ ਨਿਊਜ਼ਰੂਮ ਵੱਲੋਂ ਪ੍ਰਕਾਸ਼ਿਤ
