有效的仲裁協(xié)議，總體上有三方面的法律效力，亦即：對當事人的約束力、對仲裁機構(gòu)的效力和對法院的制約力。
(一)對當事人的法律效力
這是仲裁協(xié)議效力的首要表現(xiàn)。(1)仲裁協(xié)議約定的特定法律關(guān)系發(fā)生爭議后，當事人就該爭議的起訴權(quán)受到限制，只能將爭議提交仲裁解決，不得單方撤銷協(xié)議而向法院起訴。(2)并且必須依仲裁協(xié)議中確定的仲裁范圍、仲裁地點、仲裁機構(gòu)等內(nèi)容進行，不得隨意更改。此為仲裁協(xié)議對當事人還產(chǎn)生基于前兩項效力之上的附隨義務(wù)：任何一方當事人不能隨意解除、變更已發(fā)生法律效力的仲裁協(xié)議;當事人應(yīng)履行仲裁委員會依法作出裁決，等等。
(二)對仲裁機構(gòu)的法律效力
有效的仲裁協(xié)議是仲裁機構(gòu)行使仲裁管轄權(quán)，受理案件的唯一依據(jù)。沒有仲裁協(xié)議的案件，即使一方當事人提出仲裁申請，仲裁機構(gòu)也無權(quán)受理。仲裁管轄權(quán)屬于協(xié)議管轄權(quán)，此不同于國際民事訴訟管轄權(quán)，后者的管轄權(quán)起于國家的司法主權(quán)，具有強制性，不以當事人之間的協(xié)議作為管轄的前提條件。雖然國際民事訴訟中也允許當事人協(xié)議選擇管轄法院，但必須是在特定國家法律允許的范圍內(nèi)，受特定國家法律規(guī)定的種種條件的限制，當事人協(xié)議的自由度是非常有限的。仲裁協(xié)議對仲裁管轄權(quán)還有限制的效力，并對仲裁裁決的效力具有保證效力。當然，仲裁機構(gòu)對仲裁協(xié)議的存在、效力或范圍也有裁決權(quán)。依據(jù)《國際商會仲裁規(guī)則》(1998年1月1日生效)第6條第3款的規(guī)定，如果被申請人不按照第5條的規(guī)定提交答辯，或者一方當事人對仲裁協(xié)議的存在、效力或范圍提出一種或多種異議，而仲裁院初步認定可能存在按照國際商會仲裁規(guī)則進行仲裁的仲裁協(xié)議時，仲裁庭得在不影響對這種或多種異議的可接受性和實質(zhì)性下決定繼續(xù)仲裁。在此情況下，有關(guān)仲裁庭的管轄權(quán)應(yīng)由仲裁庭自已決定。如果仲裁院不確信存在仲裁協(xié)議，則應(yīng)通知當事人仲裁不能進行。在此情況下，當事人仍有權(quán)請求有管轄權(quán)的法院對是否存在有約束力的仲裁協(xié)議作出裁定。
(三)對法院的法律效力
1、有效的仲裁協(xié)議排除了法院的管轄權(quán)。如選擇了仲裁即排除了法院管轄。關(guān)于仲裁協(xié)議可排除法院管轄權(quán)的效力為大數(shù)國家所承認。但是亦有少數(shù)國家規(guī)定：仲裁協(xié)議不能完全排除法院對爭議案件的管轄權(quán)，或者規(guī)定當事人對仲裁裁決不服時可向法院提起上訴。但在我國仲裁裁決被撤銷或被拒絕執(zhí)行，當事人如不能重新達成仲裁協(xié)議，只能向法院起訴。
2、另一方面，仲裁協(xié)議對法院的制約力還表現(xiàn)在，對仲裁機構(gòu)基于有效仲裁協(xié)議所作出的有效裁決，法院負有執(zhí)行職責。這體現(xiàn)了法院對仲裁的支持。
3、有效的仲裁協(xié)議是申請執(zhí)行仲裁裁決時必須提供的文件。根據(jù)《聯(lián)合國關(guān)于承認和執(zhí)行外國裁裁決公約》(《紐約公約》)的規(guī)定，為了使裁決能在另一國得到承認和執(zhí)行，勝訴的一方應(yīng)在申請時提交：仲裁裁決的正本或正式副本;仲裁協(xié)議的正本或正式副本。在執(zhí)行外國仲裁裁決時，仲裁協(xié)議是否有效，是法院審查的重要內(nèi)容之一。
以上便是生效仲裁協(xié)議的法律效力表現(xiàn)，也是生效仲裁裁決的一般效力。這同我國仲裁協(xié)議的法定內(nèi)容是一致的，在有些國家的仲裁和國際商事仲裁中，由于當事人可就更多事項在仲裁協(xié)議中約定，如仲裁裁決的效力、仲裁規(guī)則、仲裁費用的負擔等，仲裁協(xié)議對當事人、仲裁機構(gòu)和法院有更多的約束力。如仲裁協(xié)議可約定仲裁規(guī)則的，仲裁機構(gòu)即必須依約定的仲裁規(guī)則進行審理和裁決，否則則因違反仲裁規(guī)則導致其所作裁決可依當事人申請為法院撤銷與不予執(zhí)行。