Когда в схеме предложения пишутся квадратные скобки, а когда круглые?

Квадратные скобки ставятся при сложносочиненных предложениях (когда от одной части предложения к другой нельзя задать вопрос).

Квадратные и круглые ставятся при сложноподчинённых предложениях (когда от одной части предложения можно задать вопрос к другой. часть, от которой задаётся вопрос обозначается квадратными скобками, а часть, которая отвечает на вопрос - круглыми скобками).