ਡੇਫਨੀ ਕੋਲਰ ਦੇ ML ਉਤਪਾਦ ਸਬਕ: ਰਿਸਰਚ ਨੂੰ ਡਿਪਲੋਇਮੈਂਟ ਯੋਗ ਸਿਸਟਮਾਂ ਵਿੱਚ ਬਦਲਣਾ — ML ਫੀਚਰਾਂ ਦੀ ਸੀਮਾ ਨਿਰਧਾਰਤ ਕਰੋ, ਮੈਟ੍ਰਿਕ ਚੁਣੋ, ਉਮੀਦਾਂ ਸੈੱਟ ਕਰੋ ਅਤੇ ਸੁਰੱਖਿਅਤ ਤਰੀਕੇ ਨਾਲ ਰਿਲੀਜ਼ ਕਰੋ।

ਇੱਕ ਵਧੀਆ ML ਪੇਪਰ ਫਿਰ ਵੀ ਨਿਰਾਸ਼ਾਜਨਕ ਪ੍ਰੋਡਕਟ ਬਣ ਸਕਦਾ ਹੈ। ਪੇਪਰ ਉਹਨਾਂ ਸਥਿਤੀਆਂ ਨੂੰ ਪੇਸ਼ ਕਰਦੇ ਹਨ ਜਿੱਥੇ ਨਤੀਜੇ ਕੰਟਰੋਲ ਕੀਤੇ ਜਾਣ ਵਾਲੇ ਹਾਲਾਤਾਂ 'ਚ ਧ੍ਰੁੜਤਾਪੂਰਕ ਹੁੰਦੇ ਹਨ। ਪ੍ਰੋਡਕਟ ਲੋਕਾਂ ਨੂੰ ਇੱਕ ਘਰਬੜ ਦਿਨ 'ਤੇ, ਗੁੰਝਲਦਾਰ ਡੇਟਾ ਨਾਲ ਅਤੇ ਥੋੜ੍ਹੀ ਬਹਾਲੀ ਦੇ ਨਾਲ ਕੰਮ ਮੁਕੰਮਲ ਕਰਨ ਵਿੱਚ ਮਦਦ ਕਰਨ ਲਈ ਬਣਾਏ ਜਾਂਦੇ ਹਨ।
ਡੇਫਨੀ ਕੋਲਰ ਦੇ ML ਉਤਪਾਦ ਸਬਕ (ਇਹ ਇੱਕ ਦ੍ਰਿਸ਼ਟੀਕੋਣ ਵਜੋਂ, ਜੈਵਨੀ ਨਹੀਂ) ਤੋਂ ਇੱਕ ਉਪਯੋਗੀ ਸਿੱਖਿਆ ਹੈ—ਪ੍ਰੇਰਣਾ ਵਿੱਚ ਬਦਲਾਅ: ਰਿਸਰਚ ਨਵੇਂ ਤੇ ਸਾਫ਼ ਲਾਭਾਂ ਨੂੰ ਇਨਾਮ ਦਿੰਦੀ ਹੈ, ਜਦਕਿ ਪ੍ਰੋਡਕਟ ਉਪਯੋਗਤਾ ਅਤੇ ਭਰੋਸੇ ਨੂੰ ਮੁੱਖ ਰੱਖਦਾ ਹੈ। ਜੇ ਤੁਹਾਡਾ ਮਾਡਲ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਹੈ ਪਰ ਫੀਚਰ ਸਮਝਣ ਵਿੱਚ ਔਖਾ, ਧੀਮਾ ਜਾਂ ਅਣਹੋਣੀਆ ਹੈ, ਤਾਂ ਉਪਭੋਗਤਾ ਬੈਨਚਮਾਰਕ ਦੀ ਪਰਵਾਹ ਨਹੀਂ ਕਰਨਗੇ।
ਉਪਭੋਗਤਾ ਉਹ ਬੁਨਿਆਦੀ ਅਤੇ ਤੁਰੰਤ ਗੱਲਾਂ ਨੂੰ ਮਹਿਸੂਸ ਕਰਦੇ ਹਨ। ਉਹ ਲੇਟੈਂਸੀ ਮਹਿਸੂਸ ਕਰਦੇ ਹਨ। ਉਹ ਨੋਟਿਸ ਕਰਦੇ ਹਨ ਜਦੋਂ ਇਕੋ ਜਿਹਾ ਇਨਪੁੱਟ ਵੱਖ-ਵੱਖ ਜਵਾਬ ਦਿੰਦਾ ਹੈ। ਉਹ ਇੱਕ ਵੱਡੀ ਗਲਤੀ ਨੂੰ ਦਸ ਚੰਗੇ ਨਤੀਜਿਆਂ ਨਾਲੋਂ ਜ਼ਿਆਦਾ ਯਾਦ ਰੱਖਦੇ ਹਨ। ਅਤੇ ਜੇ ਫੀਚਰ ਪੈਸਾ, ਸਿਹਤ ਜਾਂ ਕੋਈ ਵੀ ਪਬਲਿਕ-ਮੁਖੀ ਮਾਮਲਾ ਛੁਹਦਾ ਹੈ, ਤਾਂ ਉਹ ਤੇਜ਼ੀ ਨਾਲ ਫੈਸਲਾ ਕਰ ਲੈਂਦੇ ਹਨ ਕਿ ਐਂਨਾਂ 'ਤੇ ਨਿਰਭਰ ਕਰਨਾ ਸੁਰੱਖਿਅਤ ਹੈ ਕਿ ਨਹੀਂ।
ਅਧਿਕਤਰ “ਪੇਪਰ ਜਿੱਤ” ਸੱਚੀ ਦੁਨੀਆ ਵਿੱਚ ਇੱਕੋ ਹੀ ਕੁਝ ਕਾਰਨਾਂ ਕਰਕੇ ਫੇਲ ਹੁੰਦੇ ਹਨ: ਲਕੜੀ-ਦਾ-ਮਕਸਦ ਧੁੰਦਲਾ ਹੁੰਦਾ ਹੈ (ਟീਮ ਜੋ ਅਸਾਨੋਂ ਮਾਪਿਆ ਜਾ ਸਕਦਾ ਹੈ ਉਸਨੂੰ optimize ਕਰਦੀ ਹੈ), ਡੇਟਾ ਵਿੱਚ ਬਦਲਾਅ (ਨਵੇਂ ਯੂਜ਼ਰ, ਨਵੇਂ ਵਿਸ਼ੇ, ਐਜ ਕੇਸ), ਮਾਲਕੀ ਅਸਪਸ਼ਟ ਹੁੰਦੀ ਹੈ (ਗੁਣਵੱਤਾ ਸਮੱਸਿਆਵਾਂ ਲਟਕਦੀਆਂ ਰਹਿੰਦੀਆਂ ਹਨ), ਜਾਂ ਫੀਚਰ “AI ਜਾਦੂ” ਵਜੋਂ ਸ਼ਿਪ ਕੀਤਾ ਜਾਂਦਾ ਹੈ ਬਿਨਾਂ ਪ੍ਰਦਿਕਸ਼ਣ, ਪੜਤਾਲ ਜਾਂ ਸਹੀ ਕਰਨ ਦੇ ਤਰੀਕੇ ਦੇ।
ਇੱਕ ਸਧਾਰਨ ਉਦਾਹਰਨ: ਇੱਕ ਸਮੈਰੀਜ਼ੇਸ਼ਨ ਮਾਡਲ ਆਫਲਾਈਨ ਟੈਸਟਾਂ ਵਿੱਚ ਮਜ਼ਬੂਤ ਲੱਗ ਸਕਦਾ ਹੈ, ਪਰ ਪ੍ਰੋਡਕਟ ਫੇਲ ਹੋ ਜਾਂਦਾ ਹੈ ਜੇ ਇੱਕ ਮਹੱਤਵਪੂਰਨ ਵਿਸਥਾਰ ਛੱਡ ਦਿੱਤਾ ਜਾਵੇ, ਗੱਲਭਾਅ ਗਲਤ ਹੋਵੇ, ਜਾਂ ਜਵਾਬ ਆਉਣ ਵਿੱਚ 12 ਸਕਿੰਟ ਲੱਗਣ। ਉਪਭੋਗਤਾ ਇਸਨੂੰ ਕਿਸੇ ਬੇਸਲਾਈਨ ਨਾਲ ਤੁਲਨਾ ਨਹੀਂ ਕਰਦੇ—ਉਹ ਆਪਣੀ ਆਪਣੀ ਸਮਾਂ ਅਤੇ ਜੋਖਮ ਨਾਲ ਤੁਲਨਾ ਕਰਦੇ ਹਨ।
ਟੀਮਾਂ ਉਹ ਸਮਾਂ ਵੀ ਖੋਦੀਆਂ ਹਨ ਜਦੋਂ ਉਹ ਮਾਡਲ ਨੂੰ ਹੀ ਉਤਪਾਦ ਸਮਝਦੀਆਂ ਹਨ। ਅਸਲ ਵਿੱਚ, ਮਾਡਲ ਸਿਸਟਮ ਦੇ ਇਕ ਹਿੱਸੇ ਵਜੋਂ ਹੁੰਦਾ ਹੈ: ਇਨਪੁੱਟ ਹੈਂਡਲਿੰਗ, ਗਾਰਡਰੇਲ, UI, ਫੀਡਬੈਕ, ਲੌਗਿੰਗ ਅਤੇ ਜਦੋਂ ਮਾਡਲ ਅਨਿਸ਼ਚਿਤ ਹੋਵੇ ਤਾਂ ਇੱਕ ਫਾਲਬੈਕ ਪਾਥ।
ਤੁਸੀਂ ਇਹ ਸਪਸ਼ਟ ਤੌਰ 'ਤੇ ਉਹਨਾਂ ਯੂਜ਼ਰ-ਸਾਮ੍ਹਣੇ AI ਬਿਲਡਰਾਂ ਵਿੱਚ ਦੇਖ ਸਕਦੇ ਹੋ ਜਿਵੇਂ Koder.ai। ਚੈਟ ਤੋਂ ਐਪ ਜਨਰੇਟ ਕਰਨਾ ਡੈਮੋ ਵਿੱਚ ਹੈਰਾਨੀਜਨਕ ਲੱਗ ਸਕਦਾ ਹੈ, ਪਰ ਅਸਲ ਯੂਜ਼ਰ ਇਹ ਦੇਖਦੇ ਹਨ ਕਿ ਨਤੀਜਾ ਚੱਲਦਾ ਹੈ ਕਿ ਨਹੀਂ, ਸੋਧ ਪ੍ਰਿਦਰਸ਼ਿਤ ਤਰੀਕੇ ਨਾਲ ਹੁੰਦੇ ਹਨ ਕਿ ਨਹੀਂ, ਅਤੇ ਜਦੋਂ ਕੁਝ ਟੁੱਟਦਾ ਹੈ ਤਾਂ ਉਹ ਰੋਲਬੈਕ ਕਰ ਸਕਦੇ ਹਨ ਕਿ ਨਹੀਂ। ਇਹੀ ਪ੍ਰੋਡਕਟ ਹਕੀਕਤ ਹੈ: “ਸਰਬ-ਸਰਵੋਤਮ ਮਾਡਲ” ਤੋਂ ਘੱਟ, “ਨਿਰਭਰ تجربਾ” ਤੋਂ ਵੱਧ।
ਰਿਸਰਚ ਆਮ ਤੌਰ 'ਤੇ ਇੱਕ ਨੁਕਤਾ ਸਾਬਤ ਕਰਨ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰਦੀ ਹੈ: ਇੱਕ ਮਾਡਲ ਸਾਫ਼ ਡੇਟਾਸੈਟ 'ਤੇ ਇੱਕ ਬੇਸਲਾਈਨ ਨੂੰ ਹਰਾ ਦਿੰਦਾ ਹੈ। ਇੱਕ ਪ੍ਰੋਡਕਟ ਉਪਭੋਗਤਾ ਨੂੰ ਗੁੰਝਲਦਾਰ ਹਾਲਾਤਾਂ ਵਿੱਚ ਕੰਮ ਪੂਰਾ ਕਰਨ 'ਚ ਮਦਦ ਕਰਦਾ ਹੈ, ਜਿੱਥੇ ਹਕੀਕਤ ਵਿੱਚ ਦਾਅਵਿਆਂ ਅਤੇ ਥੋੜ੍ਹੀ ਸਹਿਣਸ਼ੀਲਤਾ ਹੁੰਦੀ ਹੈ। ਇਹ ਅਸੰਮੇਲਤਾ ਕਈ ਵਾਅਦੇਵਰ੍ਹੇ ਵਿਚਾਰਾਂ ਨੂੰ ਟੁੱਟਣ ਵਾਲੀ ਥਾਂ ਬਣ ਜਾਂਦੀ ਹੈ।
ਡੇਫਨੀ ਕੋਲਰ ਦੇ ਇੱਕ ਸਭ ਤੋਂ ਪ੍ਰਯੋਗਿਕ ਸਬਕਾਂ ਵਿੱਚੋਂ ਇੱਕ ਇਹ ਹੈ ਕਿ “ਸਹੀਤਾ” ਨੂੰ ਇੱਕ ਸ਼ੁਰੂਆਤੀ ਸੰਕੇਤ ਵਜੋਂ ਲਓ, ਅੰਤ ਨਹੀਂ। ਪੇਪਰ ਵਿੱਚ ਇੱਕ ਛੋਟੀ metric ਲਾਭ ਮਹੱਤਵਪੂਰਨ ਹੋ ਸਕਦੀ ਹੈ। ਪ੍ਰੋਡਕਟ ਵਿੱਚ, ਉਹੀ ਲਾਭ ਅਦਿੱਖ ਹੋ ਸਕਦਾ ਹੈ, ਜਾਂ ਉਹ ਨਵੇਂ ਖਰਚੇ ਲਿਆ ਸਕਦਾ ਹੈ: ਬਹੁਤ ਧੀਮਾ ਜਵਾਬ, ਗੁੰਝਲਦਾਰ ਐਜ ਕੇਸ, ਜਾਂ ਸਪੋਰਟ ਟਿਕਟਾਂ ਵਿੱਚ ਵਾਧਾ।
ਪ੍ਰੋਟੋਟਾਈਪ ਦਾ ਉੱਤਰ ਹੁੰਦਾ ਹੈ “ਕੀ ਇਹ ਕਾਮ ਕਰ ਸਕਦਾ ਹੈ?” ਤੁਸੀਂ ਡੇਟਾ ਹੱਥੋਂ-ਚੁਣ ਸਕਦੇ ਹੋ, ਮਾਡਲ ਇਕ ਵਾਰੀ ਚਲਾ ਕੇ ਸਭ ਤੋਂ ਵਧੀਆ ਕੇਸ ਨੂੰ ਡੈਮੋ ਕਰ ਸਕਦੇ ਹੋ। ਪਾਇਲਟ ਪੁੱਛਦਾ ਹੈ “ਕੀ ਇਹ ਅਸਲ ਉਪਭੋਗਤਿਆਂ ਦੀ ਮਦਦ ਕਰਦਾ ਹੈ?” ਹੁਣ ਤੁਹਾਨੂੰ ਅਸਲ ਇਨਪੁੱਟ, ਅਸਲ ਸਮਾਂ ਸੀਮਾਵਾਂ ਅਤੇ ਇੱਕ ਸਾਫ਼ ਸਫਲਤਾ ਮਾਪਦੰਡ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ। ਪ੍ਰੋਡਕਸ਼ਨ ਪੁੱਛਦਾ ਹੈ “ਕੀ ਅਸੀਂ ਇਸਨੂੰ ਚਿਕਿਤਸਾ ਕਰਕੇ ਚਲਾਈ ਰੱਖ ਸਕਦੇ ਹਾਂ?” ਇਸ ਵਿੱਚ ਭਰੋਸਪੱਨਤਾ, ਸੁਰੱਖਿਆ, ਲਾਗਤ ਅਤੇ ਮਾੜੇ ਦਿਨਾਂ 'ਤੇ ਕੀ ਹੁੰਦਾ ਹੈ ਸ਼ਾਮਿਲ ਹੈ।
ਯਾਦ ਰੱਖਣ ਲਈ ਇੱਕ ਤੇਜ਼ ਤਰੀਕਾ:
ਉਤਪਾਦ ਨਤੀਜੇ ਮਾਡਲ ਦੇ ਆਲੇ-ਦੁਆਲੇ ਦੀ ਹਰ ਚੀਜ਼ 'ਤੇ ਨਿਰਭਰ ਕਰਦੇ ਹਨ। ਡੇਟਾ ਪਾਇਪਲਾਈਨਾਂ ਟੁੱਟਦੀਆਂ ਹਨ। ਜਦੋਂ ਯੂਜ਼ਰ ਸੁਭਾ ਵਰਤਾਰਾ ਬਦਲਦੇ ਹਨ ਤਾਂ ਇਨਪੁੱਟ ਡਰਿਫਟ ਹੁੰਦਾ ਹੈ। ਲੇਬਲ ਬੁਰੇ ਹੋ ਜਾਂਦੇ ਹਨ। ਤੁਹਾਨੂੰ ਸਮੱਸਿਆਵਾਂ ਨੂੰ ਜਲਦੀ ਨੋਟਿਸ ਕਰਨ ਦਾ ਇਕ ਤਰੀਕਾ ਵੀ ਚਾਹੀਦਾ ਹੈ, ਤੇ ਐਸੇ ਸਮੇਂ ਯੂਜ਼ਰਾਂ ਨੂੰ ਬਹਾਲ ਕਰਨ ਦਾ ਤਰੀਕਾ ਵੀ।
ਇਹ "ਛੁਪਿਆ ਕੰਮ" ਆਮ ਤੌਰ 'ਤੇ ਇਨਪੁੱਟ ਗੁਣਵੱਤਾ ਟ੍ਰੈਕ ਕਰਨ, ਅਸਫਲਤਾਵਾਂ ਨੂੰ ਲੌਗ ਕਰਨ, ਅਜੀਬ ਕੇਸਾਂ ਦੀ ਸਮੀਖਿਆ ਕਰਨ, ਅਤੇ ਰੀਟ੍ਰੇਨ ਕਰਨ ਦਾ ਫੈਸਲਾ ਕਰਨ ਸਮੇਤ ਹੁੰਦਾ ਹੈ। ਇਸ ਵਿੱਚ ਸਹਾਇਤਾ ਸਕ੍ਰਿਪਟ ਅਤੇ ਸਾਫ UI ਸੁਨੇਹੇ ਵੀ ਸ਼ਾਮਿਲ ਹਨ, ਕਿਉਂਕਿ ਯੂਜ਼ਰ ਪੂਰੇ ਅਨੁਭਵ ਦਾ ਨਿਰਣੇ ਕਰਦੇ ਹਨ, ਸਿਰਫ਼ ਮਾਡਲ ਨਹੀਂ।
ਬਣਾਉਣ ਤੋਂ ਪਹਿਲਾਂ, ਇਹ ਪਰਿਭਾਸ਼ਿਤ ਕਰੋ ਕਿ "ਕਾਫੀ ਚੰਗਾ" ਦਾ ਕੀ ਮਤਲਬ ਹੈ ਅਤੇ ਇਸਨੂੰ ਸਾਧੀ ਭਾਸ਼ਾ ਵਿੱਚ ਲਿਖੋ: ਕਿਹੜੇ ਯੂਜ਼ਰ, ਕਿਹੜੇ ਕੰਮ, ਕੌਣ-ਕੌਣ ਸਹੀ-ਗਲਤ ਦੀ ਮਨਜ਼ੂਰਯੋਗ ਪ੍ਰਕਾਰ, ਅਤੇ ਕਿਹੜਾ ਸੀਮਾ ਹੈ ਜਿੱਥੇ ਤੁਸੀਂ ਸ਼ਿਪ ਕਰੋਗੇ ਜਾਂ ਰੁਕ ਜਾਵੋਗੇ। “ਮੈਨੂਅਲ ਸਮੀਖਿਆ ਦੇ ਸਮੇਂ ਨੂੰ 20% ਘੱਟ ਕਰੋ ਬਿਨਾਂ ਉੱਚ-ਰੀਸਕ ਗਲਤੀਆਂ ਵਧਾਏ” “F1 ਸਕੋਰ ਸੁਧਾਰੋ” ਨਾਲੋਂ ਜ਼ਿਆਦਾ ਯੂਜ਼ਰ-ਕੇਂਦਰਤ ਹੈ।
ਯੂਜ਼ਰ ਦੇ ਕੰਮ ਨਾਲ ਸ਼ੁਰੂ ਕਰੋ, ਮਾਡਲ ਨਾਲ ਨਹੀਂ। ਇੱਕ ਵਧੀਆ ਸਕੋਪ ਇੱਕ ਪ੍ਰਸ਼ਨ ਨਾਲ ਸ਼ੁਰੂ ਹੁੰਦੀ ਹੈ: ਲੋਕ ਕੀ ਕਰਨ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰ ਰਹੇ ਹਨ, ਅਤੇ ਅੱਜ ਕੀ ਉਨ੍ਹਾਂ ਨੂੰ ਰੋਕਦਾ ਹੈ? ਜੇ ਤੁਸੀਂ ਫੀਚਰ ਕਿਸ ਥਾਂ ਵਰਕਫਲੋ ਵਿੱਚ ਮਦਦ ਕਰਦਾ ਹੈ, ਇਹ ਹੋਰਨਿਹਾ ਤਰੀਕੇ ਨਾਲ ਵਰਣਨ ਨਹੀਂ ਕਰ ਸਕਦੇ, ਤਾਂ ਤੁਸੀਂ ਅਜੇ ਵੀ "ਪੇਪਰ ਮੋਡ" ਵਿੱਚ ਹੋ, ਪ੍ਰੋਡਕਟ ਮੋਡ ਵਿੱਚ ਨਹੀਂ।
ਡੇਫਨੀ ਕੋਲਰ ਦੇ ਸਹਾਇਤਕ ਫ੍ਰੇਮਿੰਗ ਵਿੱਚੋਂ ਇੱਕ ਇਹ ਹੈ ਕਿ ਫੀਚਰ ਨੂੰ ਯੂਜ਼ਰ ਲਈ ਉਸ ਦੀ ਭੂਮਿਕਾ ਦੁਆਰਾ ਪਰਿਭਾਸ਼ਿਤ ਕਰੋ। ਕੀ ਇਹ ਉਨ੍ਹਾਂ ਦਾ ਕੰਮ ਘਟਾ ਰਿਹਾ ਹੈ (ਆਟੋਮੇਸ਼ਨ), ਉਹਨਾਂ ਨੂੰ ਕੰਮ ਬਿਹਤਰ ਕਰਨ ਵਿੱਚ ਮਦਦ ਕਰ ਰਿਹਾ ਹੈ (ਸਹਾਇਤਾ), ਜਾਂ ਉਹ ਇੱਕ ਸੁਝਾਅ ਦੇ ਰਿਹਾ ਹੈ ਜੋ ਉਹ ਮੰਨ ਸਕਦੇ ਹਨ ਜਾਂ ਨਜ਼ਰਅੰਦਾਜ਼ ਕਰ ਸਕਦੇ ਹਨ (ਫੈਸਲਾ-ਸਹਾਇਤਾ)? ਇਹ ਚੋਣ UI, ਮੈਟ੍ਰਿਕ, ਮਨਜ਼ੂਰਯੋਗ ਗਲਤੀ ਦਰ, ਅਤੇ ਗਲਤੀਆਂ ਨੂੰ ਹਲ ਕਰਨ ਦੇ ਤਰੀਕੇ ਨੂੰ ਨਿਰਧਾਰਿਤ ਕਰਦੀ ਹੈ।
ਬਣਾਉਣ ਤੋਂ ਪਹਿਲਾਂ, UI ਦਾ ਵਾਅਦਾ ਇੱਕ ਵਾਕ ਵਿੱਚ ਲਿਖੋ। ਇਹ ਵਾਕ ਫੀਚਰ ਦੇ ਸਭ ਤੋਂ ਮਾੜੇ ਦਿਨ 'ਤੇ ਵੀ ਸੱਚ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ। "ਇੱਕ ਪਹਿਲਾ ਡ੍ਰਾਫਟ ਬਣਾਉਂਦਾ ਹੈ ਜੋ ਤੁਸੀਂ ਸੋਧ ਸਕਦੇ ਹੋ" "ਅੰਤਿਮ ਜਵਾਬ ਲਿਖਦਾ ਹੈ" ਨਾਲੋਂ ਸੁਰੱਖਿਅਤ ਹੈ। ਜੇ ਵਾਧੂ ਸ਼ਰਤਾਂ ਚਾਹੀਦੀਆਂ ਹਨ ਤਾਂ ਸਕੋਪ ਬਹੁਤ ਵੱਡਾ ਹੈ।
ਪਾਬੰਦੀਆਂ ਅਸਲ ਸਕੋਪ ਹਨ। ਉਨ੍ਹਾਂ ਨੂੰ ਸਪਸ਼ਟ ਬਣਾਓ।
ਇਨ੍ਹਾਂ ਪੰਜ ਲਾਈਨਾਂ ਤੱਕ ਸਪਸ਼ਟ ਨਾ ਹੋਵੋ ਤਾਂ ਅੱਗੇ ਨਾ ਵਧੋ:
ਉਦਾਹਰਨ: ਮਾਨ ਲਓ ਤੁਸੀਂ Koder.ai ਵਰਗੇ vibe-coding ਟੂਲ ਵਿੱਚ "AI ਸਕੀਮਾ ਸਹਾਇਕ" ਜੋੜ ਰਹੇ ਹੋ। ਯੂਜ਼ਰ ਦਾ ਕੰਮ ਹੈ "ਮੈਨੂੰ ਇਕ ਡੇਟਾਬੇਸ ਟੇਬਲ ਚਾਹੀਦੀ ਹੈ ਤਾਂ ਕਿ ਮੈਂ ਬਣਾਉਣਾ ਜਾਰੀ ਰੱਖ ਸਕਾਂ।" ਜੇ ਤੁਸੀਂ ਇਸਨੂੰ ਸਹਾਇਤਾ ਵਜੋਂ ਸਕੋਪ ਕਰਦੇ ਹੋ, ਤਾਂ ਵਾਅਦਾ ਹੋ ਸਕਦਾ ਹੈ "ਇੱਕ ਟੇਬਲ ਸਕੀਮਾ ਸੁਝਾਅ ਦਿੰਦਾ ਹੈ ਜੋ ਤੁਸੀਂ ਸਮੀਖਿਆ ਕਰਕੇ ਲਾਗੂ ਕਰ ਸਕਦੇ ਹੋ।" ਇਹ ਤੁਰੰਤ ਗਾਰਡਰੇਲ ਨਿਰਧਾਰਤ ਕਰਦਾ ਹੈ: ਬਦਲਾਅ ਲਗੂ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ diff ਦਿਖਾਓ, ਰੋਲਬੈਕ ਦੀ ਆਗਿਆ ਦਿਓ, ਅਤੇ ਔਖੇ ਤਰੱਕੀ ਵਾਲੇ ਸੋਝੇਵਰਾਂ ਤੋਂ ਤੇਜ਼ ਜਵਾਬ ਨੂੰ ਤਰਜੀਹ ਦਿਓ।
ਪਹਿਲੀ ਵਰਜਨ ਉਸ ਸਭ ਤੋਂ ਛੋਟੀ ਕਾਰਵਾਈ ਅਰੂੰ ਧਿਆਨ 'ਤੇ ਸ਼ਿਪ ਕਰੋ ਜੋ ਮੁੱਲ ਪੈਦਾ ਕਰਦੀ ਹੈ। ਫੈਸਲਾ ਕਰੋ ਕਿ ਤੁਸੀਂ ਅਜੇ ਕਿਹੜੀਆਂ ਚੀਜ਼ਾਂ ਨੂੰ ਸਹਾਇਤ ਨਹੀਂ ਕਰੋਗੇ (ਭਾਸ਼ਾਵਾਂ, ਡੇਟਾ ਟਾਈਪ, ਬਹੁਤ ਲੰਬੇ ਇਨਪੁੱਟ, ਉੱਚ ਟ੍ਰੈਫਿਕ) ਅਤੇ ਇਹ UI 'ਚ ਦਿਖਾਓ। ਇਸ ਤਰ੍ਹਾਂ ਤੁਸੀਂ ਉਪਭੋਗਤਿਆਂ ਨੂੰ ਆਪਣੇ ਮਾਡਲ ਦੀਆਂ ਫੇਲ ਹੋਣ ਵਾਲੀਆਂ ਸਥਿਤੀਆਂ ਨੂੰ ਸੰਭਾਲਣ ਦਾ ਜ਼ਿੰਮੇਵਾਰ ਨਹੀਂ ਬਣਾਉਂਦੇ।
ਵਧੀਆ ML ਮੈਟ੍ਰਿਕ ਵੀ ਵਧੀਆ ਪ੍ਰੋਡਕਟ ਮੈਟ੍ਰਿਕ ਦੇ ਬਰਾਬਰ ਨਹੀਂ ਹੁੰਦਾ। ਗੈਪ ਵੇਖਣ ਦਾ ਤੇਜ਼ ਤਰੀਕਾ ਹੈ: ਜੇ ਇਹ ਨੰਬਰ ਵੱਧੇ, ਤਾਂ ਕੀ ਕੋਈ ਅਸਲ ਯੂਜ਼ਰ ਇਸਨੂੰ ਮਹਿਸੂਸ ਕਰੇਗਾ ਅਤੇ ਫ਼ਰਕ ਮਹਿਸੂਸ ਕਰੇਗਾ? ਜੇ ਨਹੀਂ, ਤਾਂ ਇਹ ਸ਼ਾਇਦ ਲੈਬ ਮੈਟ੍ਰਿਕ ਹੈ।
ਡੇਫਨੀ ਕੋਲਰ ਦੇ ਸਲਾਹ-ਮੁਤਾਬਕ, ਇੱਕ ਭਰੋਸੇਯੋਗ ਅਭਿਆਸ ਇਹ ਹੈ ਕਿ ਇੱਕ ਪ੍ਰਾਇਮਰੀ ਸਫਲਤਾ ਮੈਟਰਿਕ ਚੁਣੋ ਜੋ ਯੂਜ਼ਰ ਮੁੱਲ ਨਾਲ ਜੁੜਿਆ ਹੋਵੇ ਅਤੇ ਲਾਂਚ ਮਗਰੋਂ ਮਾਪਯੋਗ ਹੋਵੇ। ਹੋਰ ਸਭ ਚੀਜ਼ਾਂ ਉਸਨੂੰ ਸਹਾਇਤਾ ਕਰਨ ਲਈ ਹੋਣੀਆਂ ਚਾਹੀਦੀਆਂ ਹਨ, ਮੁਕਾਬਲਾ ਕਰਨ ਲਈ ਨਹੀਂ।
ਇੱਕ ਪ੍ਰਾਇਮਰੀ ਮੈਟਰਿਕ ਨਾਲ ਸ਼ੁਰੂ ਕਰੋ, ਫਿਰ ਕੁਝ ਗਾਰਡਰੇਲ ਸ਼ਾਮਿਲ ਕਰੋ:
ਗਾਰਡਰੇਲ ਉਨਾਂ ਗਲਤੀਆਂ 'ਤੇ ਧਿਆਨ ਦੇਣੀ ਚਾਹੀਦੀ ਹੈ ਜਿਨ੍ਹਾਂਨੂੰ ਯੂਜ਼ਰ ਅਸਲ ਵਿੱਚ ਮਹਿਸੂਸ ਕਰਦਾ ਹੈ। ਨੀਚੇ-ਖਤਰੇ ਕੇਸਾਂ 'ਚ ਛੋਟੀ ਘਟਤੀਆਂ ਠੀਕ ਹੋ ਸਕਦੀਆਂ ਹਨ, ਪਰ ਉੱਚ-ਖਤਰੇ ਪਲ ਵਿੱਚ ਇਕ ਯਕੀਨੀ ਗਲਤ ਜਵਾਬ ਭਰੋਸਾ ਤੋੜ ਦਿੰਦਾ ਹੈ।
ਆਫਲਾਈਨ ਮੈਟ੍ਰਿਕਸ (ਸਹੀਤਾ, F1, BLEU, ROUGE) ਅਜੇ ਵੀ ਲਾਹੇਵੰਦ ਹਨ, ਪਰ ਉਨ੍ਹਾਂ ਨੂੰ ਸਕ੍ਰੀਨਿੰਗ ਟੂਲ ਸਮਝੋ। ਔਨਲਾਈਨ ਮੈਟ੍ਰਿਕਸ (ਕਨਵਰਜ਼ਨ, ਰੀਟੇਨਸ਼ਨ, ਸਪੋਰਟ ਟਿਕਟ, ਰੀਫੰਡ, ਦੁਬਾਰਾ ਕੰਮ ਕਰਨ ਦਾ ਸਮਾਂ) ਦੱਸਦੇ ਹਨ ਕਿ ਕੀ ਫੀਚਰ ਪ੍ਰੋਡਕਟ ਵਿਚ ਮੌਜੂਦ ਰਹਿਣਾ ਚਾਹੀਦਾ ਹੈ।
ਦੋਹਾਂ ਨੂੰ ਜੁੜਨ ਲਈ, ਉਹ ਇਕ ਫੈਸਲਾ-ਥ੍ਰੈਸ਼ਹੋਲਡ ਪਰਿਭਾਸ਼ਿਤ ਕਰੋ ਜੋ ਮਾਡਲ ਆਉਟਪੁੱਟ ਨੂੰ ਕਿਸੇ ਐਕਸ਼ਨ ਨਾਲ ਜੋੜਦਾ ਹੈ, ਫਿਰ ਉਸ ਐਕਸ਼ਨ ਨੂੰ ਮਾਪੋ। ਜੇ ਮਾਡਲ ਸੁਝਾਅ ਦਿੰਦਾ ਹੈ, ਤਾਂ ਟ੍ਰੈਕ ਕਰੋ ਕਿ ਉਪਭੋਗਤਾ ਕਿੰਨੀ ਵਾਰੀ ਉਸਨੂੰ ਮਨਜ਼ੂਰ ਕਰਦੇ ਹਨ, ਜ਼ਿਆਦਾ ਸੋਧ ਕਰਦੇ ਹਨ, ਜਾਂ ਰੱਦ ਕਰਦੇ ਹਨ।
ਬੇਸਲਾਈਨ ਨੂੰ ਛੱਡੋ ਨਾ। ਤੁਹਾਨੂੰ ਕਿਸੇ ਚੀਜ਼ ਨੂੰ ਹਰਾਉਣ ਲਈ ਚਾਹੀਦਾ ਹੈ: ਨਿਯਮ-ਅਧਾਰਤ ਸਿਸਟਮ, ਟੈਮਪਲੇਟ ਲਾਇਬ੍ਰੇਰੀ, ਜਾਂ ਮੌਜੂਦਾ ਮਨੁੱਖੀ ਵਰਕਫਲੋ। ਜੇ AI ਸਿਰਫ਼ ਬੇਸਲਾਈਨ ਦੇ ਬਰਾਬਰ ਹੈ ਪਰ ਗੁੰਝਲ ਪੈਦਾ ਕਰਦਾ ਹੈ, ਤਾਂ ਇਹ ਨੈਟ ਨੁਕਸਾਨ ਹੈ।
ਉਦਾਹਰਨ: ਤੁਸੀਂ ਗਾਹਕ ਗੱਲਬਾਤਾਂ ਲਈ AI ਸਮਰੀ ਸ਼ਿਪ ਕਰਦੇ ਹੋ। ਆਫਲਾਈਨ, ਸਮਰੀਜ਼ ROUGE 'ਤੇ ਚੰਗੇ ਸਕੋਰ ਕਰਦੇ ਹਨ। ਔਨਲਾਈਨ, ਏਜੰਟ ਗੁੰਝਲਦਾਰ ਕੇਸਾਂ 'ਤੇ ਸਮਰੀਆਂ ਨੂੰ ਠੀਕ ਕਰਨ ਵਿੱਚ ਵਧੇਰੇ ਸਮਾਂ ਲਾਉਂਦੇ ਹਨ। ਇੱਕ ਵਧੀਆ ਪ੍ਰਾਇਮਰੀ ਮੈਟਰਿਕ ਹੋ ਸਕਦਾ ਹੈ "AI ਸਮਰੀ ਵਾਲੀਆਂ ਗੱਲਬਾਤਾਂ 'ਤੇ ਔਸਤ ਹੈਂਡਲ ਸਮਾਂ," ਨਾਲ ਗਾਰਡਰੇਲ ਜਿਵੇਂ "ਕ੍ਰਿਟਿਕਲ ਛੱਡ-ਦੇਣ ਵਾਲੀ ਸਮਰੀ ਦੀ %" (ਹਫਤਾਵਾਰ ਆਡਿਟ) ਅਤੇ "ਉਪਭੋਗਤਾ-ਦਰਜ ਕੀਤੀ ਗਲਤ ਸਮਰੀ" ਦਰ।
ਇੱਕ ਰਿਸਰਚ ਨਤੀਜੇ ਪ੍ਰੋਡਕਟ ਬਣਦੇ ਹਨ ਜਦੋਂ ਤੁਸੀਂ ਇਸਨੂੰ ਸ਼ਿਪ ਕਰ ਸਕਦੇ ਹੋ, ਮਾਪ ਸਕਦੇ ਹੋ ਅਤੇ ਸਪੋਰਟ ਕਰ ਸਕਦੇ ਹੋ। ਪ੍ਰਯੋਗਿਕ ਰੂਪ ਆਮ ਤੌਰ 'ਤੇ ਪੇਪਰ ਵਰਜਨ ਤੋਂ ਛੋਟਾ ਅਤੇ ਹੋਰ ਸੀਮਿਤ ਹੁੰਦਾ ਹੈ।
ਸਭ ਤੋਂ ਛੋਟੀ ਇਨਪੁੱਟ ਲਓ ਜੋ ਤੁਸੀਂ ਸਵੀਕਾਰ ਕਰ ਸਕਦੇ ਹੋ ਅਤੇ ਸਭ ਤੋਂ ਸਧਾਰਨ ਆਉਟਪੁੱਟ ਜੋ ਫਿਰ ਵੀ ਮਦਦ ਕਰਦਾ ਹੈ।
"ਕਿਸੇ ਵੀ ਦਸਤਾਵੇਜ਼ ਦੀ ਸਮਰੀ" ਦੀ ਥਾਂ, "1,000 ਸ਼ਬਦ ਤੱਕ ਦੇ ਸਪੋਰਟ ਟਿਕਟਾਂ ਨੂੰ 3 ਬੁਲੇਟ ਪੌਇੰਟਾਂ ਵਿੱਚ ਸਾਰ" ਨਾਲ ਸ਼ੁਰੂ ਕਰੋ। ਘੱਟ ਫਾਰਮੈਟ = ਘੱਟ ਅਚੰਭੇ।
ਲਿਖੋ ਕੀ ਤੁਹਾਡੇ ਕੋਲ ਪਹਿਲਾਂ ਹੈ, ਕੀ ਤੁਸੀਂ ਸੁਰੱਖਿਅਤ ਤਰੀਕੇ ਨਾਲ ਲੌਗ ਕਰ ਸਕਦੇ ਹੋ, ਅਤੇ ਕੀ ਤੁਹਾਨੂੰ ਮੁਖਤਿਆਰ ਤੌਰ 'ਤੇ ਇਕੱਤਰ ਕਰਨਾ ਪਵੇਗਾ। ਬਹੁਤ ਸਾਰੀਆਂ ਵਿਸ਼ੇਆਵਾਂ ਇੱਥੇ ਅਟਕਦੀਆਂ ਹਨ।
ਜੇ ਤੁਹਾਡੇ ਕੋਲ ਕਾਫੀ ਅਸਲ ਉਦਾਹਰਨ ਨਹੀਂ ਹਨ, ਤਾਂ ਇਕ ਹਲਕਾ ਡੇਟਾ ਕਲੇਕਸ਼ਨ ਫੇਜ਼ ਯੋਜਨਾ ਬਣਾਓ: ਯੂਜ਼ਰਾਂ ਨੂੰ ਆਉਟਪੁੱਟ ਦਰਜ ਕਰਨ ਦਿਓ, ਜਾਂ "ਸਹਾਇਕ" ਵਿਰੁੱਧ "ਨਹੀਂ ਸਹਾਇਕ" ਛਾਂਟਣ ਲਈ ਇੱਕ ਛੋਟੀ ਵਜਹ ਲਿਖਵਾਓ। ਇਹ ਯਕੀਨੀ ਬਣਾਓ ਕਿ ਜੋ ਤੁਸੀਂ ਇਕੱਤਰ ਕਰ ਰਹੇ ਹੋ ਉਹੀ ਚੀਜ਼ ਹੈ ਜਿਸ ਨੂੰ ਤੁਸੀਂ ਸੁਧਾਰਨਾ ਚਾਹੁੰਦੇ ਹੋ।
ਸਸਤਾ ਮੁਲਾਂਕਣ ਚੁਣੋ ਜੋ ਸਭ ਤੋਂ ਵੱਡੀਆਂ ਅਸਫਲਤਾਵਾਂ ਨੂੰ ਫੜ ਸਕੇ। ਇੱਕ ਹੋਲਡਆਉਟ ਸੈੱਟ, ਸਾਫ ਨਿਯਮਾਂ ਨਾਲ ਤੇਜ਼ ਮਨੁੱਖੀ ਸਮੀਖਿਆ, ਜਾਂ ਗਾਰਡਰੇਲ ਮੈਟਰਿਕ ਦੇ ਨਾਲ A/B ਟੈਸਟ ਕੰਮ ਕਰ ਸਕਦੇ ਹਨ। ਇੱਕ ਨੰਬਰ 'ਤੇ ਹੀ ਨਿਰਭਰ ਨਾ ਰਹੋ; ਇੱਕ ਗੁਣਵੱਤਾ ਸਿਗਨਲ ਨੂੰ ਸੁਰੱਖਿਆ ਜਾਂ ਐਰਰ ਸਿਗਨਲ ਨਾਲ ਜੋੜੋ।
ਰਿਲੀਜ਼ ਨੂੰ ਪੜਾਵਾਂ ਵਿੱਚ ਕਰੋ: ਅੰਦਰੂਨੀ ਵਰਤੋਂ, ਇੱਕ ਛੋਟਾ ਯੂਜ਼ਰ ਗਰੁੱਪ, ਫਿਰ ਵੱਡੀ ਰੋਲਆਊਟ। ਇੱਕ ਤੰਗ ਫੀਡਬੈਕ ਲੂਪ ਰੱਖੋ: ਅਸਫਲਤਾਵਾਂ ਲੌਗ ਕਰੋ, ਹਫਤਾਵਾਰ ਨਮੂਨਾ ਸਮੀਖਿਆ ਕਰੋ, ਅਤੇ ਛੋਟੇ ਫਿਕਸ ਰਿਲੀਜ਼ ਕਰੋ।
ਜੇ ਤੁਹਾਡੀ ਟੂਲਿੰਗ ਸਨੈਪਸ਼ਾਟ ਅਤੇ ਰੋਲਬੈਕ ਸਮਰਥਨ ਕਰਦੀ ਹੈ, ਤਾਂ ਉਨ੍ਹਾਂ ਦਾ ਉਪਯੋਗ ਕਰੋ। ਤੇਜ਼ੀ ਨਾਲ ਵਾਪਸ ਲੈ ਸਕਣ ਦੀ ਯੋਗਤਾ ਤੁਹਾਡੇ ਇਟਰੇਸ਼ਨ ਕਰਨ ਦੇ ਢੰਗ ਨੂੰ ਬਦਲ ਦਿੰਦੀ ਹੈ।
ਪਹਿਲਾਂ ਹੀ ਇਹ ਫੈਸਲਾ ਕਰੋ ਕਿ "ਵਧਾਉਣ ਲਈ ਕਾਫੀ ਚੰਗਾ" ਦਾ ਕੀ ਮਤਲਬ ਹੈ ਅਤੇ ਕੀ ਚੀਜ਼ ਰੋਕ ਦਾ ਕਾਰਨ ਬਣੇਗੀ। ਉਦਾਹਰਨ ਲਈ: "ਅਸੀਂ ਰੋਲਆਊਟ ਵਧਾਉਂਦੇ ਹਾਂ ਜਦੋਂ ਹੇਲਪਫੁਲਨੈਸ 70% ਤੋਂ ਉੱਪਰ ਹੋਵੇ ਅਤੇ ਗੰਭੀਰ ਗਲਤੀਆਂ 1% ਤੋਂ ਘੱਟ 2 ਹਫ਼ਤਿਆਂ ਲਈ।" ਇਹ ਲਗਾਤਾਰ ਗੱਲਬਾਤ ਰੋਕਦਾ ਹੈ ਅਤੇ ਉਹ ਵਾਅਦੇ ਜੋ ਤੁਸੀਂ ਨਹੀਂ ਰੱਖ ਸਕਦੇ, ਪ੍ਰਤੀਬੰਧਤ ਕਰਦਾ ਹੈ।
ਉਪਭੋਗਤਾ ਤੁਹਾਡੇ ਮਾਡਲ ਨੂੰ ਇਸਦੇ ਸਭ ਤੋਂ ਵਧੀਆ ਜਵਾਬਾਂ ਨਾਲ ਨਹੀਂ ਨਹੀਂ, ਉਹਨਾਂ ਕੁਝ ਪਲਾਂ ਦੇ ਨਾਲ ਨਿਰਣਾ ਕਰਦੇ ਹਨ ਜਦੋਂ ਇਹ ਯਕੀਨੀ ਤੌਰ 'ਤੇ ਗਲਤ ਹੋ ਜਾਂਦਾ ਹੈ, ਖਾਸਕਰ ਜਦੋਂ ਐਪ ਅਧਿਕਾਰਕ ਲੱਗਦੀ ਹੈ। ਉਮੀਦਾਂ ਸੈੱਟ ਕਰਨਾ ਇਕ ਡਿਸਕਲੇਮਰ ਨਹੀਂ, ਇਹ ਪ੍ਰੋਡਕਟ ਦਾ ਹਿੱਸਾ ਹੈ।
ਰੈਂਜਾਂ ਵਿੱਚ ਗੱਲ ਕਰੋ, ਨਾਂ ਕਿ absolutes ਵਿੱਚ। "ਇਹ ਸਹੀ ਹੈ" ਦੀ ਥਾਂ "ਆਮ ਤੌਰ 'ਤੇ X ਲਈ ਸਹੀ" ਅਤੇ "Y ਲਈ ਘੱਟ ਭਰੋਸੇਯੋਗ" ਕਹੋ। ਜੇ ਹੋ ਸਕੇ, ਸਧਾਰਨ ਭਾਸ਼ਾ ਵਿੱਚ ਭਰੋਸਾ ਦਿਖਾਓ (ਉੱਚ, ਮੱਧ, ਘੱਟ) ਅਤੇ ਹਰ ਪੱਧਰ ਨਾਲ ਯੂਜ਼ਰ ਨੂੰ ਅਗਲਾ ਕਦਮ ਦੱਸੋ।
ਸਿਸਟਮ ਕਿਵੇਂ ਅਤੇ ਕਿਂਨਾ ਵਰਤਣਾ ਹੈ, ਇਸ ਬਾਰੇ ਸਾਫ਼ ਰਹੋ। ਨਿਕਟ ਆਉਟਪੁੱਟ ਕੋਲ ਇੱਕ ਛੋਟੀ ਸੀ ਹਦ ਰੱਖੋ ਜੋ ਗਲਤ ਵਪਰੀਯੋਗ ਤੋਂ ਬਚਾਏ: "ਡ੍ਰਾਫਟਿੰਗ ਅਤੇ ਸਮਰੀ ਲਈ ਵਧੀਆ। ਕਾਨੂੰਨੀ ਸਲਾਹ ਜਾਂ ਅੰਤਿਮ ਫੈਸਲੇ ਲਈ ਨਹੀਂ।"
ਅਨਿਸ਼ਚਿਤੀ ਸੰਕੇਤ ਸਭ ਤੋਂ ਵਧੀਆ ਓਹਦੇ ਹਨ ਜਦੋਂ ਉਹ ਵਿਖਾਈ ਦਿੰਦੇ ਹਨ ਅਤੇ ਕਾਰਵਾਈਯੋਗ ਹੁੰਦੇ ਹਨ। ਯੂਜ਼ਰ ਜ਼ਿਆਦਾ ਬਖਸ਼ੀਸ਼ੀ ਨੂੰ ਤਬ ਦਿੰਦੇ ਹਨ ਜਦੋਂ ਉਹ ਦੇਖ ਸਕਦੇ ਹਨ ਕਿ AI ਕਿਉਂ ਜਵਾਬ ਦਿੱਤਾ, ਜਾਂ ਜਦੋਂ ਐਪ ਮੰਨ ਲੈਂਦੀ ਹੈ ਕਿ ਇਸਨੂੰ ਇੱਕ ਜਾਂਚ ਦੀ ਲੋੜ ਹੈ।
ਇੱਕ ਜਾਂ ਦੋ ਸੰਕੇਤ ਚੁਣੋ ਅਤੇ ਉਨ੍ਹਾਂ ਨੂੰ ਲਗਾਤਾਰ ਵਰਤੋਂ:
ਪਹਿਲੇ ਦਿਨ ਤੋਂ ਫਾਲਬੈਕ ਲਈ ਡਿਜ਼ਾਇਨ ਕਰੋ। ਜਦੋਂ AI ਅਨਿਸ਼ਚਿਤ ਹੋਵੇ, ਪ੍ਰੋਡਕਟ ਹੋਰ ਵੀ ਯੂਜ਼ਰ ਨੂੰ ਟਾਸਕ ਮੁਕੰਮਲ ਕਰਨ ਦਿੰਦਾ: ਮੈਨੂਅਲ ਫਾਰਮ, ਇੱਕ ਮਨੁੱਖੀ ਸਮੀਖਿਆ ਕਦਮ, ਜਾਂ ਇੱਕ ਸਧਾਰਨ ਨਿਯਮ-ਅਧਾਰਤ ਫਲੋ।
ਉਦਾਹਰਨ: ਇੱਕ ਸਪੋਰਟ ਰਾਈਪਲਾਈ ਸਹਾਇਕ ਹੋਰ-ਕਦੇ ਆਟੋ-ਸੈਂਡ ਨਹੀਂ ਕਰਨਾ ਚਾਹੀਦਾ। ਇਸਨੂੰ ਇੱਕ ਡ੍ਰਾਫਟ ਜਨਰੇਟ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ ਅਤੇ ਖਤਰਨਾਕ ਹਿੱਸਿਆਂ (ਰਿਫਂਡ, ਨੀਤੀਆਂ ਦੇ ਵਾਅਦੇ) ਨੂੰ "ਜਾਂਚ ਦੀ ਲੋੜ" ਵਜੋਂ ਹਾਈਲਾਈਟ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ। ਜੇ ਭਰੋਸਾ ਘੱਟ ਹੈ, ਤਾਂ ਇਕ ਫਾਲੋਅੱਪ ਸਵਾਲ ਪੁੱਛੋ ਬਜਾਏ ਅਟਕਲਾ ਲਗਾਉਣ ਦੇ।
ਯੂਜ਼ਰ ਮਾਡਲ ਅਪਰਿਪੂਰਨ ਹੋਣ ਕਰ ਕੇ churn ਨਹੀਂ ਕਰਦੇ। ਉਹ churn ਕਰਦੇ ਹਨ ਜਦੋਂ ਐਪ ਆਤਮ-ਵਿਸ਼ਵਾਸ ਨਾਲ ਬੋਲਦੀ ਹੈ ਅਤੇ ਫਿਰ ਐਸੇ ਤਰੀਕਿਆਂ ਨਾਲ ਫੇਲ ਹੁੰਦੀ ਹੈ ਜੋ ਭਰੋਸਾ ਤੋੜਦੇ ਹਨ। ਡੇਫਨੀ ਕੋਲਰ ਦੇ ਕਈ ਸਬਕ ਇੱਥੇ ਆਉਂਦੇ ਹਨ: ਕੰਮ ਸਿਰਫ਼ ਮਾਡਲ ਟਰੇਨ ਕਰਨ ਦਾ ਨਹੀਂ, ਇਹ ਇਕ ਸਿਸਟਮ ਡਿਜ਼ਾਇਨ ਕਰਨ ਦਾ ਹੈ ਜੋ ਅਸਲ ਉਪਯੋਗ 'ਤੇ ਸੁਰੱਖਿਅਤ ਤਰੀਕੇ ਨਾਲ ਵਰਤਦਾ ਹੈ।
ਆਮ ਫੰਦੇ:
ਇਹ ਨਤੀਜੇ ਅਕਸਰ "ਗੈਰ-ML" ਪ੍ਰੋਡਕਟ ਫੈਸਲਿਆਂ ਨੂੰ ਛੱਡਣ ਕਰਕੇ ਆਉਂਦੇ ਹਨ: ਮਾਡਲ ਨੂੰ ਕੀ ਕਰਨ ਦੀ ਆਗਿਆ ਹੈ, ਕਦੋਂ ਇਹ ਇਨਕਾਰ ਕਰੇ, ਜਦੋਂ ਭਰੋਸਾ ਘੱਟ ਹੋਵੇ ਕੀ ਹੁੰਦਾ ਹੈ, ਅਤੇ ਲੋਕ ਕਿਵੇਂ ਉਸਨੂੰ ਸਹੀ ਕਰ ਸਕਦੇ ਹਨ। ਜੇ ਤੁਸੀਂ ਇਹ ਹੱਦਾਂ ਨਹੀਂ ਦਰਜ ਕਰਦੇ, ਤਾਂ marketing ਅਤੇ UI ਉਹਨਾਂ ਨੂੰ ਆਪਣੇ ਤਰੀਕੇ ਨਾਲ ਨਿਰਧਾਰਿਤ ਕਰ ਲੈਂਦੇ ਹਨ।
ਸਧਾਰਨ ਸੀਨਾਰੀਓ: ਤੁਸੀਂ ਗਾਹਕ ਸਹਾਇਤਾ ਲਈ AI ਆਟੋ-ਰਿਪਲਾਈ ਜੋੜਦੇ ਹੋ। ਆਫਲਾਈਨ ਟੈਸਟ ਵਧੀਆ ਲੱਗਦੇ ਹਨ, ਪਰ ਅਸਲ ਟਿਕਟਾਂ ਵਿੱਚ ਗੁੱਸੇ ਵਾਲੇ ਸੁਨੇਹੇ, ਅਧੂਰੇ ਆਰਡਰ ਨੰਬਰ, ਅਤੇ ਲੰਮੀ ਥ੍ਰੈਡ ਸ਼ਾਮਿਲ ਹੁੰਦੀਆਂ ਹਨ। ਮੋਨੀਟਰਿੰਗ ਬਿਨਾਂ, ਤੁਸੀਂ ਇਹ ਗੁਆਚ ਲੈਂਦੇ ਹੋ ਕਿ ਮਾਡਲ ਬਦਲਾਅ ਤੋਂ ਬਾਅਦ ਜਵਾਬ ਛੋਟੇ ਅਤੇ ਹੋਰ ਜਨਰਲ ਹੋ ਰਹੇ ਹਨ। ਰੋਲਬੈਕ ਨਾ ਹੋਣ ਨਾਲ ਟੀਮ ਦਿਨਾਂ ਤਕ ਚਰਚਾ ਕਰਦੀ ਰਹਿੰਦੀ ਹੈ ਜਦੋਂ ਕਿ ਏਜੰਟ ਮੈਨਅਤੀ ਬਣਾਕੇ ਫੀਚਰ ਨੂੰ ਅਸਥਾਈ ਤੌਰ 'ਤੇ ਬੰਦ ਕਰ ਦਿੰਦੇ ਹਨ। ਯੂਜ਼ਰ ਆਤਮ-ਵਿਸ਼ਵਾਸ ਵਾਲੇ ਜਵਾਬਾਂ ਨੂੰ ਵੇਖ ਕੇ, ਖਾਸ ਕਰਕੇ ਜਦੋਂ ਉਹ ਮੁੱਖ ਵੇਰਵੇ ਛੱਡ ਦਿੰਦੇ ਹਨ, ਹਰ ਕਿਸੇ AI ਸੁਝਾਅ 'ਤੇ ਭਰੋਸਾ ਘਟਾ ਦਿੰਦੇ ਹਨ।
ਇਸ ਦਾ ਫਿਕਸ ਅਕਸਰ "ਹੋਰ ਭਾਰੀ ਟਰੇਨਿੰਗ" ਨਹੀਂ ਹੁੰਦਾ। ਇਹ ਸੀਮਾ ਬਾਰੇ ਸਾਫ਼ ਹੋਣ, ਉਹ ਮੈਟਰਿਕ ਚੁਣਨਾ ਜੋ ਯੂਜ਼ਰ ਨੁਕਸਾਨ ਨੂੰ ਦਰਸਾਉਂਦੇ ਹਨ (ਯਕੀਨੀ ਗਲਤ ਜਵਾਬ ਸੇਫ refusals ਨਾਲੋਂ ਬੁਰੇ), ਅਤੇ ਆਪਰੇਸ਼ਨਲ ਸੁਰੱਖਿਆ ਬਣਾਉਣਾ (ਅਲਰਟ, ਪੜਾਅਵਾਰ ਰਿਲੀਜ਼, ਸਨੈਪਸ਼ਾਟ, ਰੋਲਬੈਕ) ਹੁੰਦਾ ਹੈ।
ਗਾਹਕ ਸਹਾਇਤਾ ਟ੍ਰਾਇਏਜ ਇੱਕ ਵਾਸਤਵਿਕ ਥਾਂ ਹੈ ਜਿੱਥੇ ਡੇਫਨੀ ਕੋਲਰ ਦੇ ਸਬਕ ਲਾਗੂ ਕੀਤੇ ਜਾ ਸਕਦੇ ਹਨ। ਲਕੜੀ ਇਹ ਨਹੀਂ ਕਿ "AI ਨਾਲ ਸਹਾਇਤਾ ਪੂਰੀ ਕਰ ਦਿਓ"; ਬਲਕਿ ਇਹ ਕਿ ਕਿਸ ਤਰ੍ਹਾਂ ਇਹ ਏਜੰਟ ਲਈ ਟਿਕਟ ਰੂਟ ਕਰਨ ਦਾ ਸਮਾਂ ਘਟਾਏ।
ਇੱਕ ਤੰਗ ਗੱਲ ਦਾਅਵਾ ਕਰੋ: ਜਦੋਂ ਇੱਕ ਨਵੀਂ ਟਿਕਟ ਆਵੇ, ਸਿਸਟਮ ਇਕ ਸ਼੍ਰੇਣੀ (ਬਿੱਲਿੰਗ, ਬੱਗ, ਫੀਚਰ ਰਿਕਵੇਸਟ) ਅਤੇ ਇੱਕ ਤਰਜੀਹ (Low, Normal, Urgent) ਸੁਝਾਅ ਦੇਵੇ। ਇਕ ਮਨੁੱਖੀ ਏਜੰਟ ਇਸਨੂੰ ਪੁਸ਼ਟੀ ਜਾਂ ਸੋਧੇਗਾ ਪਹਿਲਾਂ ਕਿ ਇਹ ਰੂਟਿੰਗ 'ਤੇ ਅਸਰ ਪਾਏ।
ਇਹ ਸ਼ਬਦਾਂ ਮਹੱਤਵਪੂਰਨ ਹਨ। "ਸੁਝਾਅ" ਅਤੇ "ਏਜੰਟ ਪੁਸ਼ਟੀ ਕਰਦਾ ਹੈ" ਸਹੀ ਉਮੀਦ ਸੈੱਟ ਕਰਦੇ ਹਨ ਅਤੇ ਸ਼ੁਰੂਆਤੀ ਗਲਤੀਆਂ ਨੂੰ ਗਾਹਕ-ਸਾਮ੍ਹਣੇ ਆਊਟੇਜ ਬਣਨ ਤੋਂ ਰੋਕਦੇ ਹਨ।
ਆਫਲਾਈਨ ਸਹੀਤਾ ਸਹਾਇਕ ਹੈ, ਪਰ ਇਹ ਸਕੋਰਬੋਰਡ ਨਹੀਂ ਹੈ। ਉਹ ਨਤੀਜੇ ਟ੍ਰੈਕ ਕਰੋ ਜੋ ਅਸਲ ਕੰਮ ਨੂੰ ਦਰਸਾਉਂਦੇ ਹਨ: time-to-first-response, reassign rate, agent override rate, ਅਤੇ user satisfaction (CSAT)। ਨਾਲ ਹੀ "ਸਾਇਲੈਂਟ ਫੇਲ੍ਹਯੁਰ" ਸਿਗਨਲ ਵੀ ਦੇਖੋ, ਜਿਵੇਂ ਕਿ ਉਹ ਟਿਕਟਾਂ ਜਿੱਥੇ ਮਾਡਲ ਨੇ urgent ਲੇਬਲ ਲਗਾਇਆ ਪਰ ਹੈਂਡਲ ਸਮਾਂ ਵੱਧ ਗਿਆ।
ਇੱਕ ਜਵਾਬ ਦੇਣ ਦੀ ਥਾਂ, top 3 category ਸੁਝਾਅ ਦਿਖਾਓ ਸਧਾਰਨ confidence ਲੇਬਲ (ਉੱਚ, ਮੱਧ, ਘੱਟ) ਨਾਲ। ਜਦੋਂ ਭਰੋਸਾ ਘੱਟ ਹੋਵੇ, ਡਿਫਾਲਟ "ਜਾਂਚ ਦੀ ਲੋੜ" ਤੇ ਕਰੋ ਅਤੇ ਇੱਕ ਸਪਸ਼ਟ ਮਨੁੱਖੀ ਚੋਣ ਲਾਜ਼ਮੀ ਬਣਾਓ।
ਜਦੋਂ ਏਜੰਟ override ਕਰੇ, ਤੁਰੰਤ ਇੱਕ ਕਾਰਨ ਕੋਡ ਦਿਓ (ਗਲਤ ਪ੍ਰੋਡਕਟ ਖੇਤਰ, ਸੰਦਰਭ ਘਾਟ, ਗਾਹਕ ਗੁੱਸੇ ਵਿੱਚ)। ਓਹ ਕਾਰਨ ਟਰੇਨਿੰਗ ਡੇਟਾ ਬਣ ਜਾਂਦੇ ਹਨ ਅਤੇ ਸਿਸਟਮ ਕਮੀਨੀਆਂ ਨੂੰ ਉਜਾਗਰ ਕਰਦੇ ਹਨ।
ਛੋਟੇ ਨਾਲ ਸ਼ੁਰੂ ਕਰੋ ਅਤੇ ਕੇਵਲ ਤਦ ਹੀ ਫੈਲਾਓ ਜਦੋਂ ਮੈਟ੍ਰਿਕਸ ਸਹੀ ਦਿਸਣ। ਇੱਕ ਟੀਮ ਨਾਲ ਲਾਂਚ ਕਰੋ ਅਤੇ ਪੁਰਾਣੇ ਵਰਕਫਲੋ ਨੂੰ fallback ਰੱਖੋ। ਹਫਤਾਵਾਰ ਨਮੂਨਾ ਸਮੀਖਿਆ ਰੱਖੋ ਤਾਂ ਕਿ ਮੁੜ-ਹੋਣ ਵਾਲੀਆਂ ਗਲਤੀਆਂ ਮਿਲ ਸਕਣ। UI ਕਾਪੀ ਅਤੇ ਲੇਬਲ ਨੂੰ ਰੀ-ਟਰੇਨਿੰਗ ਤੋਂ ਪਹਿਲਾਂ ਠੀਕ ਕਰੋ। ਮਾਡਲ ਅਪਡੇਟ ਤੋਂ ਬਾਅਦ override ਦਰ spike ਹੋਵੇ ਤਾਂ ਅਲਰਟ ਲਗਾਓ।
ਜੇ ਤੁਸੀਂ ਇਹ ਫੀਚਰ Koder.ai ਵਰਗੇ ਪਲੇਟਫਾਰਮ 'ਤੇ ਬਣਾਉਂਦੇ ਹੋ, ਤਾਂ ਪ੍ਰੌਂਪਟ, ਨਿਯਮ ਅਤੇ UI ਕਾਪੀ ਨੂੰ ਪ੍ਰੋਡਕਟ ਦਾ ਹਿੱਸਾ ਮੰਨੋ। ਭਰੋਸਾ ਪੂਰੇ ਸਿਸਟਮ ਤੋਂ ਆਉਂਦਾ ਹੈ, ਸਿਰਫ਼ ਮਾਡਲ ਤੋਂ ਨਹੀਂ।
ਯੂਜ਼ਰ-ਸਾਮ੍ਹਣੇ ML ਫੀਚਰ ਰਿਲੀਜ਼ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ, ਆਪਣੀ ਸਭ ਤੋਂ ਸਧਾਰਣ ਵਾਅਦੇ ਦੀ ਲਿਖਤੀ ਰੂਪ ਰੱਖੋ। ਅਕਸਰ ਡੇਫਨੀ ਕੋਲਰ ਦੇ ਸਬਕ ਇਹਨਾਂ ਤਕ ਸਿਮਟਦੇ ਹਨ: ਮੁੱਲ 'ਤੇ ਸਪਸ਼ਟ, ਸੀਮਾਵਾਂ ਤੇ ਇਮਾਨਦਾਰ, ਅਤੇ ਹਕੀਕਤ ਲਈ ਤਿਆਰ।
ਸ਼ਿਪ ਤੋਂ ਪਹਿਲਾਂ ਇਹਨਾਂ ਆਈਟਮਾਂ ਨੂੰ ਚੈੱਕ ਕਰੋ:
ਜੇ ਤੁਸੀਂ ਸਿਰਫ਼ ਇੱਕ ਵਾਧੂ ਕੰਮ ਕਰੋ, ਤਾਂ ਇੱਕ ਛੋਟਾ ਰਿਲੀਜ਼ ਚਲਾਓ ਅਸਲੀ ਯੂਜ਼ਰਾਂ ਨਾਲ, ਸਿਖਰ 20 ਅਸਫਲਤਾਵਾਂ ਇਕੱਠੀਆਂ ਕਰੋ ਅਤੇ ਉਨ੍ਹਾਂ ਨੂੰ ਲੇਬਲ ਕਰੋ। ਆਮ ਤੌਰ 'ਤੇ ਉਹ ਅਸਫਲਤਾਵਾਂ ਦੱਸਦੀਆਂ ਹਨ ਕਿ ਤੁਸੀਂ ਸਕੋਪ, UI, ਜਾਂ ਵਾਅਦੇ ਨੂੰ ਸੁਧਾਰਨਾ ਹੈ, ਸਿਰਫ਼ ਮਾਡਲ ਨੂੰ ਨਹੀਂ।
ਦੋ ਮਿੰਟ ਵਿੱਚ ਪੜ੍ਹੀ ਜਾ ਸਕਣ ਵਾਲੀ ਇੱਕ-ਪੰਨਾ ਸਪੇਕ ਨਾਲ ਸ਼ੁਰੂ ਕਰੋ। ਸਾਧੀ ਭਾਸ਼ਾ ਵਿੱਚ ਰੱਖੋ ਅਤੇ ਉਨ੍ਹਾਂ ਚਾਰ ਚੀਜ਼ਾਂ 'ਤੇ ਧਿਆਨ ਦਿਓ: ਯੂਜ਼ਰ ਵਾਅਦਾ, ਇਨਪੁੱਟ (ਅਤੇ ਕੀ ਇਸਨੂੰ ਵਰਤਣ ਦੀ ਮਨਾਹੀ ਹੈ), ਆਉਟਪੁੱਟ (ਅਨਿਸ਼ਚਿਤੀ ਜਾਂ ਇਨਕਾਰ ਦਿਖਾਉਣ ਸਮੇਤ), ਅਤੇ ਸੀਮਾਵਾਂ (ਉਮੀਦਵਰ ਫੇਲ ਮੋਡ ਅਤੇ ਅਜੇ ਸਹਾਇਤ ਨਹੀਂ ਕਰਨ ਵਾਲੀਆਂ ਚੀਜ਼ਾਂ)।
ਬਣਾਉਣ ਤੋਂ ਪਹਿਲਾਂ ਮੈਟ੍ਰਿਕ ਅਤੇ ਗਾਰਡਰੇਲ ਚੁਣੋ। ਇੱਕ ਮੈਟਰਿਕ ਯੂਜ਼ਰ ਮੁੱਲ ਨੂੰ ਦਰਸਾਉੰਦੀ ਹੋਵੇ (ਟਾਸਕ ਪੂਰਾ, ਘਟ ਲਵ, ਸਮਾਂ ਬਚਾਉਣਾ)। ਇੱਕ ਮੈਟਰਿਕ ਯੂਜ਼ਰ ਦੀ ਰੱਖਿਆ ਕਰੇ (ਹੈਲੂਸੀਨੇਸ਼ਨ ਦਰ, ਪਾਲਿਸੀ ਉਲੰਘਣ ਦਰ, ਅਸੁਰੱਖਿਅਤ ਐਕਸ਼ਨ ਬਲੌਕ)। ਜੇ ਤੁਸੀਂ ਸਿਰਫ਼ ਸਹੀਤਾ ਟਰੈੱਕ ਕਰੋਗੇ, ਤਾਂ ਤੁਸੀਂ churn ਕਾਰਨਾਂ ਨੂੰ ਮਿਸ ਕਰ ਲਵੋਗੇ।
ਫਿਰ ਇੱਕ MVP ਰੋਲਆਊਟ ਚੁਣੋ ਜੋ ਖਤਰੇ ਦੇ ਅਨੁਕੂਲ ਹੋਵੇ: ਗੰਝਲਦਾਰ ਟੇਸਟ ਸੈੱਟ 'ਤੇ ਆਫਲਾਈਨ ਮੁਲਾਂਕਣ, ਸ਼ੈਡੋ ਮੋਡ, ਇੱਕ ਸੀਮਿਤ ਬੀਟਾ ਜਿਸ 'ਤੇ ਆਸਾਨ ਫੀਡਬੈਕ ਬਟਨ ਹੋਵੇ, ਅਤੇ ਇੱਕ ਹੌਲੀ-ਹੌਲੀ ਰੋਲਆਊਟ ਨਾਲ ਕਿਲ-ਸਵਿੱਚ।
ਜਿਵੇਂ ਹੀ ਲਾਈਵ ਹੋਵੇ, ਮੋਨੀਟਰਿੰਗ ਫੀਚਰ ਦਾ ਹਿੱਸਾ ਹੋਵੇ। ਮੁੱਖ ਮੈਟਰਿਕ ਦੈਨੀਕ ਟਰੈਕ ਕਰੋ ਅਤੇ ਗਲਤ ਵਿਹਾਰ spike 'ਤੇ ਅਲਰਟ ਲਗਾਓ। ਪ੍ਰੌਂਪਟ ਅਤੇ ਮਾਡਲ ਵਰਜਨਾਂ ਰੱਖੋ, ਕੰਮ ਕਰਨ ਵਾਲੇ ਸਟੇਟਾਂ ਦੀਆਂ ਸਨੈਪਸ਼ਾਟ ਰੱਖੋ, ਅਤੇ ਰੋਲਬੈਕ ਰੁਟੀਨ ਬਣਾਓ।
ਜੇ ਤੁਸੀਂ ਤੇਜ਼ੀ ਨਾਲ ਪ੍ਰੋਟੋਟਾਈਪ ਕਰਨਾ ਚਾਹੁੰਦੇ ਹੋ, ਤਾਂ ਇੱਕ ਚੈਟ-ਅਧਾਰਿਤ ਬਿਲਡ ਫਲੋ ਤੁਹਾਨੂੰ ਪਹਿਲੇ ਦੌਰ 'ਚ ਉਤਪਾਦ ਆਕਾਰ ਨੂੰ ਸਹੀ ਕਰਨ ਵਿੱਚ ਮਦਦ ਕਰ ਸਕਦਾ ਹੈ। ਉਦਾਹਰਨ ਵੱਜੋਂ Koder.ai 'ਤੇ ਤੁਸੀਂ ਫੀਚਰ ਦੇ ਆਲੇ-ਦੁਆਲੇ ਇੱਕ ਛੋਟਾ ਐਪ ਜਨਰੇਟ ਕਰ ਸਕਦੇ ਹੋ, ਆਪਣੇ ਚੁਨੇ ਹੋਏ ਮੈਟਰਿਕ ਲਈ ਬੁਨਿਆਦੀ ਟ੍ਰੈਕਿੰਗ ਜੋੜ ਸਕਦੇ ਹੋ, ਅਤੇ ਯੂਜ਼ਰ ਵਾਅਦੇ 'ਤੇ ਇਟਰੇਟ ਕਰ ਸਕਦੇ ਹੋ। ਗਤੀ ਮਦਦ ਕਰਦੀ ਹੈ, ਪਰ ਡਿਸਿਪਲਿਨ ਉਹੀ ਰਹਿੰਦੀ ਹੈ: ਸਿਰਫ਼ ਉਹੀ ਚੀਜ਼ ਸ਼ਿਪ ਕਰੋ ਜੋ ਤੁਹਾਡੇ ਮੈਟਰਿਕਸ ਅਤੇ ਗਾਰਡਰੇਲ ਸਹਿਯੋਗ ਕਰ ਸਕਦੇ ਹਨ।
ਅੰਤਿਮ ਪਰਖ: ਕੀ ਤੁਸੀਂ ਇੱਕ ਪੈਰਾ ਵਿੱਚ ਯੂਜ਼ਰ ਨੂੰ ਫੀਚਰ ਦਾ ਵਰਤਾਰਾ ਸਮਝਾ ਸਕਦੇ ਹੋ, ਬਰਾਬਰ ਇਹ ਵੀ ਦੱਸਦੇ ਹੋ ਕਿ ਕਦੋਂ ਇਹ ਗਲਤ ਹੋ ਸਕਦਾ ਹੈ? ਜੇ ਨਹੀਂ, ਤਾਂ ਇਹ ਡੈਮੋ ਚੰਗੀ ਹੀ ਹੋਵੇ, ਪਰ ਰਿਲੀਜ਼ ਲਈ ਤਿਆਰ ਨਹੀਂ।