Kyslosť karboxylových kyselín možno posudzovať podľa ich chemickej štruktúry a elektrónových účinkov. Kyslosť karboxylových kyselín úzko súvisí s ich molekulárnou štruktúrou, vrátane počtu a polohy karboxylových skupín a vlastností substituentov naviazaných na karboxylové skupiny. Vo všeobecnosti platí, že čím vyšší je počet karboxylových skupín, tým sú kyslejšie; Čím je vzdialenosť medzi karboxylovými skupinami bližšia, tým sú kyslejšie. Okrem toho elektronické efekty, ako je indukcia, môžu tiež ovplyvniť kyslosť karboxylových kyselín. Skupiny priťahujúce elektróny, ako sú halogény, kyanoskupiny, nitroskupiny atď., môžu zvýšiť kyslosť karboxylových kyselín, pretože tieto skupiny prostredníctvom účinku priťahovania elektrónov znižujú hustotu elektrónového mraku väzieb kyslík-vodík, čím podporujú disociáciu atómov vodíka.
Konkrétne medzi nasýtenými monokarboxylovými kyselinami je kyselina mravčia najkyslejšia, za ňou nasleduje kyselina benzoová a kyselina octová. Nenasýtené karboxylové kyseliny sú vo všeobecnosti kyslejšie ako ich nasýtené karboxylové kyseliny v dôsledku účinku dvojitých alebo trojitých väzieb, ktoré pohlcujú elektróny. Okrem toho možno hodnotu pKa karboxylovej kyseliny použiť na kvantifikáciu jej kyslej sily a čím je hodnota pKa menšia, tým je kyslejšia.